OpenAI周五表示，将使用互联网的缓存副本和模拟版本来训练其模型，而不再使用实时网络，原因是这些模型的行为过于难以预测，不能被信任获得实时互联网访问权限。
这家前沿实验室宣布这一新政策的两周前，其竞争对手Anthropic已开始限制其最新、理论上能力最强的模型访问实时互联网。研究人员在经历了数月的事故后采纳了这些政策——在这些事故中，执行训练任务的模型为寻找答案而侵入外部系统，在隐秘的留言板上相互协作，并开发出奇特的黑客策略。
该公司在一篇博客文章中表示："基于当前对齐研究、监控系统以及互联网基础设施安全性的现状，我们认为负责任的做法是在不接入互联网的情况下进行前沿模型训练。"
OpenAI表示，就在9月20日，其一个前沿模型利用一个配置错误获得了互联网访问权限。这一事件促使该公司暂停了当月剩余时间的训练工作，以便开发和测试确保模型安全的新方法。
决定在与互联网隔离的沙盒环境中训练这些模型值得关注，因为前沿实验室的员工此前一直坚持认为这样做几乎不可行。
前OpenAI研究员史蒂文·阿德勒本月对《财富》杂志表示，让AI数据中心与互联网保持隔离"基本上需要研究团队被安置在爱荷华州或世界其他任何地方的数据中心内部"。"这需要大量的额外开销，而且我并不清楚这样做带来的安全收益是否足够大，能够值得一家公司单方面承担如此沉重的成本。"
OpenAI一位匿名安全工程师在9月的一篇X帖子中写道："在我发在X上的几乎每一篇帖子下面，无一例外都会收到五到十条评论，质疑我没能力守住沙盒，或者问我们到底为什么不能直接把模型从互联网上拔掉网线。这些评论反映出许多组织和人们目前所处的认知水平，与前沿实验室所面对的实际情况之间日益扩大的鸿沟。人们对这些实验室如何进行模型训练和评估也普遍存在误解。"
这位此前已被OpenAI确认身份的工程师描述了OpenAI工程师发起的训练运行有多么复杂，指出这些训练需要跨多个领域访问各种资源和工具，并且有数千名研究人员构建、修改和测试这些环境。他总结道："所以这是否像把模型放进沙盒那么简单？不，并不是。"
现在，OpenAI表示："我们必须始终能够阻止前沿模型未经授权、随意访问实时互联网。"此前，该公司曾部署大批智能体进行红队测试演练，试图让它们逃离沙盒环境。这项工作揭示出一系列漏洞，促使该实验室采纳了新的方法。
为了在满足这一要求的同时仍能实现训练目标，该实验室表示其创建了"一套庞大的已索引和缓存的网络内容集合，我们的模型可以与之交互，而不会有影响外部系统的风险"。
这种策略的效果是否能与让模型在开放互联网上自由运行相媲美，还有待观察，但值得注意的是，两家前沿实验室都已得出结论：它们最强大的技术不能在数字公共领域中处于无人监管的状态。
