OpenAI本周宣布了多项举措，旨在消除外界对其安全与隐私方面的负面印象。该公司表示，已放缓扩展节奏，实施了为期两周的强化学习暂停，并将为"符合条件的API客户"提供零数据留存选项。
在周二发布的首份公告中，OpenAI表示已"暂时"放缓扩展节奏，同时暂停了强化学习训练。
该公司表示，上述举措是在对研究环境进行安全加固与红队测试、并扩大监控范围的过程中推进的，并补充道："我们规模最大的前沿强化学习计划目前仍处于暂停状态，我们正在进行小规模训练与评估，以评估模型行为、验证安全措施，并在推进前建立更充分的对齐证据。"
OpenAI在声明中表示，公司将"在整个训练过程中要求更强的对齐行为证据，并以已开展的研究和评估为基础。随着系统能力不断提升，确保其保持对齐是整个行业都需要应对的挑战。"
公告还重点介绍了公司近期在完善流程方面的其他努力，包括工作负载隔离、网络隔离以及"持续安全测试"。
然而，该公司指出，其新提出的监控方案将产生"约占被监控推理算力20%"的额外开销，尽管具体成本因训练和评估工作负载的不同而存在较大差异。OpenAI承诺将在后续博客文章中分享更多细节。
分析师和顾问认为，这些举措很可能是为即将到来的IPO提前布局。
独立技术分析师卡尔米·利维将上述声明视为"一次精心策划的公关行动，在围绕智能体AI的安全担忧持续升温之际，力图赢得舆论加分。这向外界释放出公司正在采取行动的信号，即便这些行动远远不够。在没有明确法规强制要求OpenAI等厂商将安全置于一切之上的情况下，两周的暂停不过是应付批评的门面文章。"
穆尔洞察与战略公司首席分析师贾森·安德森对此表示认同，他认为"在迈向IPO的过程中，这有点儿务实作秀的意味。"但他也指出，事情背后或许另有隐情。企业将持续大力投入AI，"在被起诉之前，他们会一路全速前进"，然后才会退缩。
不过，他表示，"这些大型AI公司在IPO后想要成功、想要实现规模扩张，唯一的途径是更深入地渗透企业市场。而要做到这一点，就必须消除客户的顾虑与风险。"
在周三的公告中，OpenAI并未说明零数据留存计划的资格认定标准，仅表示该计划将于9月启动，届时将在一份"技术白皮书"中分享详细信息。
安德森表示，这一举措必须放在当今复杂的厂商关系背景下来审视。
他指出，OpenAI的收入大部分并非直接来自企业客户，而是通过微软和AWS等合作伙伴实现的。"举个例子，如果我使用了某款开发工具，该工具在我不知情的情况下通过API调用了OpenAI的服务来构建我的应用，那么从协议来看，该工具的平台提供商才是客户，我是其下游客户。如果企业客户希望获得零数据留存保护，就必须自行提供API密钥，直接成为OpenAI的客户，才能获得这一保护。这样一来，中间的云服务提供商便失去了相应的访问权限，也就损失了收入和利润。"
顾问、FormerGov执行董事布莱恩·利瓦因则指出，数据留存承诺还因业务流程的实际运作方式而变得更加复杂。
"OpenAI表示，它现在可以在不让任何员工读取底层内容的情况下，对跨交互的滥用行为进行监控，"他说，"这是一个很高的技术承诺，因为在历史上，防范滥用与保护数据隐私一直是相互矛盾的两个目标。而证明这一点的白皮书还要几周后才能出炉。"
此外，他还指出，"零数据留存从来都不是绝对的零，因为涉及儿童性剥削的相关内容仍需依法留存并进行报告。"
LexisNexis风险解决方案集团首席信息安全官弗拉维奥·维拉努斯特雷对此有不同看法，他认为这一举措的目的在于软化可能出台的立法。
"他们很可能已经看到了即将到来的监管法规的走向——这些法规可能对他们产生重大影响——此举或许是在向外界表态，希望通过自律来规避未来更为严苛的立法，"维拉努斯特雷说道。
Aikido Security企业首席信息安全官迈克·威尔克斯则观察到，"真诚与持久是两回事。借用北欧传说中潜伏于水面之下的巨型海怪形象，你或许可以将其称之为'暂停克拉肯'。真正的问题在于：OpenAI需要满足什么条件，才会决定再次释放它。"
Info-Tech研究集团技术顾问贾斯汀·圣莫里斯补充道，OpenAI似乎想因做了一家大型AI公司本就应该始终做到的事情中的最低标准而获得称赞。
"如果一家汽车制造商宣布将在量产前更认真地对待基本安全测试，不会有人为此欢呼雀跃。坦率地说，如此基础的事情还需要向持怀疑态度的公众专门澄清，本身就令人汗颜，"他说，"对我来说，真正的问题是：为什么这件事需要在现在发布公告？以及，一旦竞争对手推出某些让暂停代价高昂的产品时，他们是否还能坚守这条底线。"
因此，他建议："不要再把这些公告当作尽职调查的依据。要求提供你实际能得到什么的证据，而不仅仅是承诺。如果一家厂商能以安全为由暂停开发，而你得知这件事的途径只是一篇博客文章，那么你就应该追问：你们之间的合同要求他们向你披露哪些信息。"
Q&A
Q1：OpenAI为何宣布暂停强化学习训练？
A：OpenAI表示，暂停强化学习训练是为了在推进最大规模的前沿模型训练之前，对模型行为进行评估、验证安全措施并建立充分的对齐证据。与此同时，公司也在对研究环境进行安全加固和红队测试，并扩大监控范围。多位分析师认为，这一举措也有为IPO塑造安全负责任形象的公关考量。
Q2：OpenAI的零数据留存计划具体是什么？有哪些限制？
A：OpenAI计划从9月起为符合条件的API客户提供零数据留存选项，并承诺在技术白皮书中披露细节。不过，该计划存在一定局限：资格认定标准尚未公布；通过微软、AWS等合作伙伴使用OpenAI服务的企业客户需自行提供API密钥才能享受保护；此外，涉及儿童性剥削的内容仍需依法留存，"零数据"并非绝对意义上的零。
Q3：外界分析师如何评价OpenAI此次安全举措的实际意义？
A：多位分析师和顾问对此次举措持保留态度。有分析师认为两周的暂停不过是应对批评的"门面文章"，缺乏强制性法规约束下的实质效力；有观点认为此举带有IPO前的公关色彩；也有顾问指出，OpenAI此举不过是在履行大型AI公司本就应尽的基本责任，并建议企业客户要求提供实质证据，而非仅凭公告声明作为评估依据。
