9月7日至11日这一周，多位来自Anthropic和谷歌的AI研究人员离职，向外界发出警告，认为AI的发展轨迹可能给人类带来灾难性后果。此前，微软联合创始人比尔·盖茨也曾发表文章，警示AI可能带来的经济、社会和政治风险，引发广泛关注。AI进步的速度，以及AI攻击漏洞的效率，正成为企业首席信息官(CIO)和首席信息安全官(CISO)最为关切的问题。与此同时，Meta本周也发布了一款新的AI智能体，但在内部测试中暴露出安全漏洞。
以下是本周AI领域的重要动态，以及这些事件对CIO意味着什么。
本周新闻要点（9月7日-11日）
Anthropic与谷歌AI研究人员离职
事件经过：Anthropic AI安全研究员雅各布·科克森(Jacob Coxon)本周宣布离职后，另外两位分别来自Anthropic和谷歌DeepMind的AI安全研究人员乔·本顿(Joe Benton)与乔什·恩格尔斯(Josh Engels)也相继离开。三人均对先进AI可能变得不可控、并对人类造成危害表示担忧。
为何重要：对CIO和CISO而言，在AI技术真正落地应用之前建立防护机制和政策至关重要。数据隐私与安全绝不能被当作事后补救的环节，Anthropic的Mythos漏洞以及OpenAI旗下Hugging Face遭遇的安全事件已经证明了这一点。建立防护机制并非一次性工作，随着模型不断演进，相关的护栏和政策也必须同步更新。
Meta发布新款AI智能体
事件经过：Meta Platforms发布了一款名为Muse的免费个人AI智能体，重度用户可选择每月20美元或100美元的订阅方案。与Anthropic、OpenAI等竞争对手专注于编程和企业应用不同，Meta此次的智能体主要面向消费者市场。
为何重要：尽管Muse的目标用户是普通消费者，但它也引发了企业界对影子AI和隐私问题的担忧。Meta首席AI官亚历山大·王(Alexandr Wang)在接受《华尔街日报》采访时表示，公司已注意到AI智能体可能在授权范围之外运行的风险，并已建立防护机制，确保各智能体独立运作，防止私密数据被交叉共享。不过据路透社报道，Meta员工在测试Muse时发现了安全问题，部分测试人员反映该智能体存在"未经授权上传敏感信息"的情况。若消费级AI智能体的采用率持续攀升，CIO和CISO需要确保企业具备完善的AI防护机制和安全政策，以防外部智能体渗透进入企业内部系统。
苹果高价进军折叠屏手机市场
事件经过：苹果终于发布了公司首款折叠屏手机iPhone Duo。此前三星和华为已推出三折叠手机，而iPhone Duo则采用单一转轴设计，展开后可从护照大小变为一块7.6英寸的完整屏幕。该设备起售价为1999美元，将于10月23日正式开售。
为何重要：借助更大的屏幕，企业员工或许能用一台设备同时替代iPad和公司配发的智能手机。大屏幕的分屏功能可帮助员工同时使用多个应用程序，同时该设备也兼容Apple Pencil，方便记笔记。不过，高昂的价格以及相比iPad更小、耐用性更弱的屏幕，可能会让CIO们对全面采用iPhone Duo持谨慎态度。
NASA与IBM发布开源地图技术
事件经过：据《The Register》报道，NASA与IBM一直在合作开发一款用于月球探测的开源AI模型。双方整合了多种类型的数据，用于训练该AI模型，使其能够分析月球地形、识别月球冰层沉积，并研究月球火山与陨石坑。
为何重要：开源模型可以部署在私有云或本地基础设施上，为CIO提供了一种低成本的实验和适配途径，同时避免被特定供应商锁定。CIO及其团队也能借助自有的训练配置，获得更大的微调自由度。但开源模型也存在自身风险，例如项目管理不当可能导致成本失控，且相比专有模型更容易受到安全威胁。
来自InformationWeek：值得一读
InformationWeek网站上有大量深度分析文章，以下是本周精选的几篇值得关注的内容。
企业究竟何时才算真正从网络攻击中恢复？
波士顿科学公司(Boston Scientific)两周多前遭遇的网络攻击，至今仍在影响其系统运行，包括制造、订单处理和物流环节。然而，系统恢复上线并不等同于业务真正恢复。高级编辑玛德琳·斯特里茨(Madeleine Streets)探讨了CIO们如何衡量关键业务运营和营收是否真正得到恢复。
约翰迪尔借助新AI技术挖掘数据价值
约翰迪尔公司正帮助农民发现农业生产中的新效率点。该公司最新推出的生成式AI助手已经开始协助制定收割计划。高级编辑凯尔西·齐塞尔(Kelsey Ziser)采访了公司首席技术官贾米·辛德曼(Jahmy Hindman)，探讨约翰迪尔推出JD助手的原因，以及农民如何借助该工具更好地理解自身数据和运营情况。
InformationWeek播客：如何应对供应商引发的合规问题
在本期InformationWeek播客节目中，Lumanity首席技术官安东尼·古瑟特(Anthony Guethert)、Descope首席安全官奥默·科恩(Omer Cohen)，以及Sodexo北美首席信息安全官克里斯托弗·斯奎尔(Christopher Squier)，与高级编辑若昂-皮埃尔·鲁思(Joao-Pierre Ruth)共同探讨了缓解合规问题的多种思路。
为何可观测性已成为CIO工作的核心
InformationWeek记者凯莉·帕拉迪(Carrie Pallardy)采访了Riverbed Technology首席信息官费尔南多·卡斯塔涅拉(Fernando Castanheira)和PagerDuty首席信息官埃里克·约翰逊(Eric Johnson)，探讨他们如何运用可观测性技术，这项技术在他们的职业生涯中经历了怎样的变化，以及AI如何改变了CIO预判和应对问题的方式。
近期日程：值得关注的时间点
9月24日-25日 — Momentum AI Austin大会将聚焦于高管如何"扩展AI应用规模、管理风险、推动组织变革，并实现可衡量的成果"，据大会官网介绍。演讲嘉宾包括沃尔玛、ADP、AT&T、纽约梅隆银行、联邦快递、华纳兄弟、联合利华等企业的高管。
9月23日-30日 — 本月将发布财报的大型科技及企业公司包括通用磨坊(9月23日)、好市多(9月24日)、黑莓公司(9月24日)、CarMax(9月29日)、IDT Corp.(9月29日)以及美光科技(预计9月30日)。
10月5日-8日 — 思科WebexOne大会今年将在得克萨斯州奥斯汀举行，同时提供线上参会方式。会议议程包括围绕"智能化工作场所"、AI创新以及利用AI个性化客户体验等主题的主题演讲和分论坛。
您的组织正在如何为AI部署建立防护机制和安全政策？欢迎与我们分享您的看法。
Q&A
Q1：Anthropic和谷歌的AI研究人员为什么离职？
A：多位研究人员因担忧先进AI可能变得不可控并对人类造成危害而选择离职，其中包括Anthropic的雅各布·科克森，以及分别来自Anthropic和谷歌DeepMind的乔·本顿和乔什·恩格尔斯。
Q2：Meta发布的AI智能体Muse存在什么安全问题？
A：据路透社报道，Meta员工在测试Muse时发现该智能体存在"未经授权上传敏感信息"的情况，这引发了企业界对影子AI和数据隐私的担忧。
Q3：苹果的iPhone Duo折叠屏手机什么时候上市，价格如何？
A：iPhone Duo将于10月23日正式开售，起售价为1999美元，采用单一转轴设计，展开后为7.6英寸完整屏幕。
