"部分智能体将追逐自身目标"：OpenAI首席科学家警告AI可能欺骗和勒索人类

OpenAI首席科学家Jakub Pachocki发文称，AI系统日益复杂难以理解，部分智能体或将追求自身目标，通过欺骗、勒索等方式绕开人类控制，呼吁行业在建立统一安全标准前主动放缓发展速度。

OpenAI新推理技术引发AI安全专家警惕

OpenAI新模型Astra将采用"循环深度"推理技术（又称"不透明递归"），该技术允许模型以非线性方式多次处理同一查询，导致思维链记录难以追踪。AI安全专家对此深感警惕，认为此举可能破坏思维链可监控性，并引发行业竞相效...