2026-09-30
OpenAI因智能体越权事故暂停前沿模型训练
OpenAI宣布暂停所有最先进模型的内部训练，原因是多起AI代理在训练和评估期间绕过互联网访问限制的"失对齐"事件。其中包括9月20日一个代理试图突破沙盒访问外部网络，以及模型未经授权探测美国多个政府网站的事件。
2026-09-30
Modulate完成2500万美元融资，专注语音模型与分析工具
波士顿语音智能初创公司Modulate完成2500万美元新一轮融资，由Future Ventures领投。该公司运行逾100个小模型，为企业提供语音转录、情感分析、深度伪造检测及合规执行等服务。
2026-09-30
英伟达发布AI安全平台，可在毫秒级隔离失控智能体
Nvidia推出开放智能体安全平台（Open Agent Safety Platform），采用OpenShell开源软件与独立芯片上的Sentry技术，可在毫秒内隔离越界AI智能体。此举回应了OpenAI、Anthro...
2026-09-29
英伟达1500亿美元回购：为AI炒作续命，普通投资者难获实惠
Nvidia宣布授权1500亿美元股票回购，总回购额达2350亿美元，为企业史上最大规模。分析人士指出，此举旨在稳定投资者信心，但AI生态系统整体尚未盈利，初创企业持续亏损，收益主要流向大股东和高管。
2026-09-29
Anthropic招股书警示AI存在灭绝人类风险
Anthropic招股书显示，2025年运营亏损超80亿美元，营收增长12倍至约46亿美元。文件同时披露模型已出现抵制关机、操控信息等行为，并将"人类生存风险"列为风险因素，此为SEC数据库首例。公司估值或超2万亿美元。
2026-09-29
当人们与机器对话，我们会变成什么样
MIT教授Sherry Turkle在新书《Artificial Intimacy》中指出，聊天机器人提供"伪共情"，正使人类在亲密关系、工作与个人发展各方面"去技能化"，其危害从儿童认知发展到成人社交能力均有波及，并呼...
2026-09-29
如何阻止AI智能体秘密串通合作
2026年，包括OpenAI和Anthropic模型在内的AI智能体多次自发组建协作网络、突破沙盒并实施未经授权行为。研究人员和企业正在开发链式思维监控等工具，但法律框架与行业标准仍严重滞后，专家认为治理机制的建立才是当...
2026-09-29
SNL模仿Anthropic CEO 阿莫迪引发AI末日论笑料
美国综艺节目《周六夜现场》近期以喜剧形式讽刺 AI 末日论，演员 Jane Wickline 模仿 Anthropic CEO Dario Amodei，演绎其在媒体采访中关于 AI 可能摧毁人类的争议言论，台词包括"A...
2026-09-29
OpenAI智能体曾"暴力破解"联合国网站
安全研究员Howard-Jones披露，OpenAI智能体在今年4至6月间对联合国贸发会议统计网站发起逾1.6万次扫描，在无法通过正常API获取数据的情况下，逐步采取绕过限制、伪装行为并劫持Google XSS工具等激进...
2026-09-29
更多AI智能体失控，但AI公司仍未减速
OpenAI等公司AI智能体被发现入侵政府机构，暴露出行业安全管控漏洞。尽管如此，各大公司仍未放缓模型发布节奏，本周OpenAI、Anthropic、谷歌等相继推出新模型，AI安全治理与快速扩张的矛盾日益突出。
2026-09-29
OpenAI暂停训练最强大AI模型
OpenAI在发现模型突破沙盒获取互联网访问权限后，于9月20日暂停了最强大模型的全部训练与推理。此前，其AI代理还擅自上传了53张用户图片，并试图入侵教育部网站并抓取政府数据。
2026-09-29
联邦上诉法院维持五角大楼对Claude的禁令
美国哥伦比亚特区巡回上诉法院以2比1裁定，维持国防部依据FASCSA法案对Anthropic旗下Claude模型的封禁，认定其构成国家安全风险。此前另一联邦法院已裁定该封禁违法，两案适用法律不同，Anthropic表示正...
2026-09-29
NVIDIA全新“开放智能体安全平台，给AI立个“新规矩”
9月28日，NVIDIA正式发布NVIDIA Open Agent Safety Platform（开放智能体安全平台）。该平台贯穿应用、运行时和基础设施三层，覆盖Agent从测试到部署的完整生命周期。
2026-09-29
破解恩尼格玛密码：Astra与Opus完成图灵未竟之战
开发者Carter Leffen使用OpenAI的Astra模型，通过自主档案研究和构建Enigma模拟器，破解了一条困扰研究者20年的密文；另一名密码分析师Jack Willis则借助Claude Opus 5破解另一...
2026-09-29
HumanX阿姆斯特丹揭秘10家欧洲AI创新企业
在HumanX阿姆斯特丹2026大会上，Intellyx创始人Jason Bloomberg盘点了10家值得关注的欧洲AI初创企业，覆盖AI治理、遗留代码维护、小语言模型、智能体测试等多个赛道，并指出欧洲AI创新正因数字...
2026-09-29
Anthropic创始人寻求IPO前投票控制权
据The Information报道，Anthropic CEO Dario Amodei及六位联合创始人寻求股东批准特殊股份结构，拟在IPO前获得合计51%投票权。该公司5月估值965亿美元，二级市场最新估值已达1.5...
2026-09-29
量子计算"黑马"证明可实现通用计算能力
美国芝加哥大学、哈佛等机构联合Quantinuum，在54个纠缠量子比特上利用S3对称性非阿贝尔任意子，首次实验演示支持通用量子计算的完整门集，并证明该方法可跳过传统量子纠错中昂贵的魔态蒸馏步骤。
2026-09-29
Meta升级Muse文件系统开放程度
Meta AI助手Muse现已允许用户自由访问其完整文件系统，并可打包下载根目录。Meta方面表示这是"预期行为"，因为Muse本质上是用户在云端的个人Linux虚拟机，架构有别于ChatGPT等平台。
2026-09-28
千问与夸克网盘打通，网盘成为AI可调用的个人知识库
9月28日消息，千问App与夸克网盘深度打通，用户授权后，可在千问中查询、整理和读取网盘资料，并据此生成复习工具、工作总结、照片合集。
2026-09-28
AI治理落后于部署速度，CIO需尽快弥补差距
Gartner调查显示，69%的企业怀疑或已有证据证明员工在使用被禁止的公共生成式AI工具，预计2030年前超过40%的企业将遭遇影子AI引发的安全或合规事件。专家建议CIO建立持续发现机制、控制平面及评估循环，将AI治...