8月最后一周,AI领域依旧动态频繁。OpenAI为其Astra模型加设了新的安全防线,美国政府就AI模型训练涉及的版权"合理使用"问题表态,英伟达则计划收购一家开放权重模型公司。
以下是本周部分重要新闻回顾,以及这些事件对首席信息官(CIO)意味着什么。
OpenAI收紧对Astra模型的管控
事件经过:OpenAI在判定其Astra模型存在网络安全风险后,对该模型施加限制并增加了更多安全防护措施。公司正在限制该模型访问网络安全相关功能的权限。该模型已经过训练,能够拒绝执行恶意请求,并识别越狱攻击的企图。OpenAI表示,虽然Astra并非此前Hugging Face数据泄露事件中涉及的模型,但公司已将从该事件中获得的经验应用于提升自身模型的安全性。
为何重要:对CIO和首席信息安全官(CISO)而言,牵头为AI应用设立恰当的安全防线和可接受使用政策至关重要。人工介入审核机制、AI治理委员会以及内部培训,都是CIO和CISO可以采用的举措,以确保AI不会脱离可控范围而引发网络安全威胁。
特朗普政府在"合理使用"争议中支持OpenAI
事件经过:美国司法部的一封信函显示,特朗普政府在OpenAI与《纽约时报》等出版商的法律纠纷中,站在了OpenAI一方。政府方面主张,依据版权法中的"合理使用"原则,利用新闻内容训练AI是可以接受的,若限制合理使用原则,可能会对大语言模型领域的竞争产生负面影响。
为何重要:大语言模型的训练数据来源,以及AI生成内容本身,长期以来都是版权法争论的焦点。包括OpenAI和Meta在内的多家AI公司,都曾因使用受版权保护内容训练模型而遭到起诉。CIO可以借助一些风险缓释工具,来应对AI生成内容的版权归属问题,比如设立强制披露要求,让员工对AI生成内容进行记录留档。CIO在构建内部AI模型时,也可以对训练数据的来源进行审计。
英伟达拟以130亿美元收购Hugging Face
事件经过:AI芯片制造商英伟达计划以130亿美元收购AI初创公司Hugging Face。该公司提供开放权重模型,并搭建了一个开放生态系统,任何人都可以在其中上传和测试AI模型。英伟达首席执行官黄仁勋对《华尔街日报》表示,开放模型能让各类组织"在先进能力基础上进行构建,而不必从零开始训练每一个模型"。
为何重要:与OpenAI、Anthropic等公司的专有模型不同,开放权重模型是公开的,这使得AI模型的获取更加平民化,也让CIO和IT团队有机会下载并在自己的环境中使用这些模型。不过,CIO在考虑使用开放权重模型时,也需要权衡几个显著的弊端。Anthropic近期在一篇博客中指出,开放权重模型"可能比闭源模型带来更高的风险"。此外,自主托管AI模型往往需要昂贵的GPU资源,并会产生较高的维护成本。
谷歌推出新AI模型
事件经过:谷歌正在开发新的AI模型Gemini 3.8 Flash,该模型具备升级后的编程能力,这有望帮助谷歌追赶OpenAI和Anthropic等竞争对手。据《华尔街日报》报道,近来"在智能体编程已成为AI首要商业应用场景的当下,Gemini在旗舰模型的竞争中,一直落后于Anthropic和OpenAI"。
为何重要:如果谷歌能够追上前沿模型领域的竞争对手,CIO在投资AI模型时就能有更多选择。不过,许多CIO今年正致力于整合自身的AI投资,力求在发展内部AI技术与部署第三方供应商方案之间取得平衡。AI模型选择的增多虽然有利于价格竞争,但如果组织整体的AI战略尚不明确,也可能导致决策陷入停滞。
来自InformationWeek:值得一读的内容
InformationWeek上有大量深度见解和分析文章,以下是本周精选的几篇,值得优先阅读。
Intuit、Smartsheet、ETS三家公司的CISO探讨如何在"AI孤儿"出现前确保企业韧性。如果没有相应的防护机制,AI智能体在组织内的大量增加,会给身份管理带来麻烦,并可能让"无人管理"的AI智能体获得对私有数据的不受限访问权限。多位CISO解释了随着企业中AI智能体的兴起,身份管理正变得愈发复杂,安全风险也随之升高。
InformationWeek播客:如何化解中层管理者对AI的抵触情绪。Typeform首席产品技术官Aleks Bass与Scrubbed首席AI官Kendrick Kho,与高级编辑Joao-Pierre Ruth共同做客InformationWeek播客,探讨了如何说服那些对AI持保留态度、心存顾虑的团队负责人。
AI、领导力、硬件:定义2026年夏季的10个IT故事。AI领域的突破、IT领导力方面的挑战、硬件方面的困扰——今年夏天CIO们要应对的事情不少。执行编辑Jacqui Biscobing梳理了10篇引发广泛关注的InformationWeek报道。
新一代CIO将走上不同的成长路径。三位CIO讲述了AI如何改变他们的工作,以及这一岗位现在所需具备的技能和背景。而有一项特质始终未变:好奇心。
近期日程:值得关注的时间节点
9月7日至11日——下周,甲骨文、联邦快递、梅西百货和Adobe将与金融分析师举行财报电话会议。
9月15日至17日——Salesforce的Dreamforce大会本月将在旧金山举行。Anthropic首席执行官Dario Amodei将出席演讲,此外还有来自麻省理工学院、树莓派基金会、《时代》杂志、Black Forest Labs等机构的演讲嘉宾。
9月23日至25日——WeAreDevelopers全球大会将在加州圣何塞举行,届时将汇聚超过10000名开发者、4000家企业和500位演讲嘉宾。会议议题将涵盖智能体编程、为智能体设立安全防线、编程语言等多个方向。
本周的AI新闻再次表明,为AI部署设立安全防线和可接受使用政策,对CIO而言至关重要。我们很想听听你的想法——你所在的组织是如何确保AI在企业内部安全运行的?欢迎告诉我们。
Q&A
Q1:OpenAI为什么要限制Astra模型的功能?
A:OpenAI判定Astra模型存在网络安全风险,因此对其访问网络安全相关能力进行了限制,并加设了更多安全防护措施,该模型已被训练为能拒绝恶意请求并识别越狱攻击。
Q2:特朗普政府在AI版权争议中支持哪一方?
A:特朗普政府通过美国司法部的信函,在OpenAI与《纽约时报》等出版商的法律纠纷中支持OpenAI,主张依据"合理使用"原则,用新闻内容训练AI模型是可以接受的。
Q3:英伟达收购Hugging Face的目的是什么?
A:英伟达计划以130亿美元收购提供开放权重模型的Hugging Face,英伟达CEO黄仁勋表示,开放模型能让组织在先进能力基础上构建应用,而无需从零训练每个模型。
