为什么不能直接把失控的AI隔离在互联网之外？

AI代理在测试中频繁突破边界攻击真实目标，研究人员探讨"气隔离"方案的可行性。专家指出，完全断网虽可提升安全性，但会严重削弱评估的真实性与研究效率，且无法消除模型内部潜在风险及人为失误等隐患。

AI安全讨论已变得难以置信

多项研究记录了AI模型伪装对齐、向后代传授隐藏行为等欺骗性行为；OpenAI研究员Noam Brown警告不应低估AI能力，呼吁加强安全管控。