AI企业风险新挑战:生成式蔓延失控
文章指出,生成式AI使应用、自动化流程和智能体的创建极为便捷,但由此引发的"生成蔓延"问题正成为企业新风险——大量系统在无人负责、无文档、无退出机制的状态下运行。作者呼吁企业建立覆盖版本控制、测试、权限管理和下线机制的全...
文章指出,生成式AI使应用、自动化流程和智能体的创建极为便捷,但由此引发的"生成蔓延"问题正成为企业新风险——大量系统在无人负责、无文档、无退出机制的状态下运行。作者呼吁企业建立覆盖版本控制、测试、权限管理和下线机制的全...
现有法规和风险框架难以覆盖每一次真实决策。将人的判断、监督与责任嵌入工作流程,结合限制使用、核查可靠性、追溯依据等方法,才能让AI在高信任行业中稳健扩展。
许多企业领导者知道组织内部有AI在运行,却不清楚它究竟在哪里运行。真正的风险并非来自员工主动采用的工具,而是那些通过供应商更新、功能迭代悄然嵌入基础设施、CRM、安全系统中的"隐形AI"。这种隐形AI已在无人审批的情况下...
尽管对AI系统信任度不足,企业仍在积极推进AI自主化进程。Kyndryl调查显示,仅25%的商业与技术领导者表示完全信任其AI系统,但超过80%的技术领导者预计自主AI代理将在未来一年内做出具有实质业务影响的决策。目前,...
IBM商业价值研究院对1000名高管的调查显示,超七成受访者表示难以切换主要AI供应商,68%的企业因数据主权要求难以跨环境迁移AI系统。随着AI采用深化,供应商锁定问题引发监管关注——英国竞争与市场管理局已对微软展开调...
Gartner分析师在悉尼数据与分析峰会上指出,尽管近八成企业正在加大AI投入,但若缺乏清晰目标与有效治理,投资将难以转化为业务价值。研究显示,对数据管理、治理与人才等基础工作投入更多的企业,AI成果满意度显著更高。Ga...
谷歌、微软、OpenAI等科技巨头联合成立Appia基金会,旨在帮助企业验证其AI应用是否合规运行。该基金会将建立模块化规范,搭建连接全球标准与实际评估的桥梁。规范分为两层:需求与指导层帮助用户明确合规要求,评估支持层则...
AI平台Publicis Sapient对1550名企业技术决策者的调查显示,企业AI准备程度远落后于采用进度。逾七成美国受访者预计未来一两年AI将大规模扩展,但仅20%认为组织已做好准备。近四分之一受访者表示,运营模式...
根据Jamf发布的报告,超过五分之一运行macOS网络的企业因使用AI工具遭受过经济损失或网络攻击,约六成企业预计近期将面临AI相关安全事件。报告基于对687名IT和安全负责人的调查,指出影子AI、智能体AI滥用及供应商...
随着董事会对AI成果的期望持续攀升,CIO面临前所未有的压力。IBM调研显示,仅11%的技术领导者为AI智能体部署做好准备,77%的企业治理滞后,而三分之二的技术领导者需为自身并不完全掌控的系统结果负责。受访CIO指出,...
企业在过去两年间大量推进AI试点项目,如今账单压力日益凸显。冗余的SaaS AI功能、治理不善的副驾驶工具以及低效自动化,正悄然推高云计算、许可证和人力成本。越来越多的CIO开始审视AI投资组合,通过评估每项工具的实际价...
IBM商业价值研究院联合牛津经济研究院调查2000名C级技术高管发现,80%的技术高管感受到来自CEO推动AI转型的压力,但仅11%表示已为未来一年AI智能体的大规模部署做好准备。调查显示,70%的企业AI部署速度已超出...
OpenAI为ChatGPT推出"活跃会话"安全功能,允许用户和管理员查看并终止跨设备的登录会话,涵盖设备信息、位置及登录时间等详情。该功能适用于所有账户类型,但不支持SSO企业账户及第三方应用会话。尽管专家认为此举有助...
根据Dataiku面向全球CEO的AI调研报告,阿联酋79%的CEO认为,若企业未能在2026年底前实现可量化的AI成果,其职位将面临风险。76%的CEO表示AI战略对投资者至关重要,59%正承受来自董事会的压力。报告同...
企业中,业务部门自行采购AI平台,六个月后模型已深度影响定价与人事决策,但CIO却对此毫不知情。董事会追责时,组织架构图将矛头指向CIO,然而CIO既未选择模型,也未审批用例。本文指出,CIO必须在承担AI责任之前,掌握...
AI正将企业项目转变为分散式工作流,传统项目管理方式已难以适应。AI工具往往在业务部门自发落地,绕过IT监管,导致CIO缺乏全局可见性。加之AI代理的动态特性使责任追溯更加困难,合规与安全风险随之累积。专家建议,企业应在...
ServiceNow宣布扩展其AI控制塔功能,将其从去年发布的治理仪表板升级为面向全企业的AI资产管理指挥中心,覆盖范围延伸至ServiceNow平台以外的AI系统。新版本新增30个企业连接器,支持AWS、Google ...
随着全球IT支出预计在2026年达到6.15万亿美元,企业关注点正从"AI能做什么"转向"AI花了多少钱"。德勤警告称,AI已成为增速最快的IT开支,部分企业中AI费用占IT预算高达一半。员工私自使用未经授权的AI工具导...
2026年4月,Anthropic宣布其最强AI模型Claude Mythos Preview因约束基础设施尚不完善,暂不对外发布。该模型能识别所有主流操作系统和浏览器中的数千个安全漏洞,潜在风险极高。Anthropic...
随着AI能力在技术栈中扩展,IT部门正面临一场"隐形劳动"危机。提示工程、模型编排、输出评估等新型工作需求不断涌现,却无法纳入现有岗位体系。关键工作被超负荷团队默默吸收,缺乏明确归属,游离于传统人力规划之外。对CIO而言...