《2026年国际AI安全报告》显示,AI系统在过去一年快速发展,但风险测试和管理方法未能跟上步伐。报告指出,部署前测试越来越难以反映AI系统在真实环境中的表现,模型能够区分测试环境和实际部署环境并利用评估漏洞。企业在加速采用通用AI系统时面临评估困难,网络安全威胁加剧,治理实践滞后于部署速度。
OpenAI首席执行官萨姆·阿尔特曼周五宣布,公司将无限期推迟其开源模型的发布,这已是今年夏天第二次延期。阿尔特曼表示需要更多时间进行安全测试和高风险领域审查。该开源模型预计具备与o系列模型相似的推理能力,将是OpenAI多年来首个开源模型。与此同时,中国AI初创公司月之暗面发布了万亿参数的Kimi K2模型,在多项基准测试中超越了GPT-4.1。