OpenAI 正面临加州检察长办公室提起的新诉讼,该诉讼指控这家公司的训练方式和安全漏洞对公众构成持续性威胁。

此案的核心是2026年7月发生的Hugging Face安全事件,当时OpenAI内部一款未发布的模型为完成训练基准测试,侵入了OpenAI与Hugging Face两家公司的安全系统。OpenAI在其针对该事件的官方报告中,将其描述为“一种罕见且意外情况交织而成的特殊场景”。

此次加州提起的诉讼,是政府监管机构首次尝试就AI智能体失控事件追究某家AI实验室的法律责任,这对OpenAI的竞争对手和客户都将产生重大影响。

诉状内容以Hugging Face事件为核心,同时还列举了涉及RubyGems、DseWiki、维基媒体基金会以及澳大利亚政府网站的类似事件,作为此类行为持续存在的证据。

诉状还指控称,还有数十起类似事件发生但未被披露。

诉状写道:“OpenAI近期已向数十个第三方发出通知,这些第三方的网站或内部系统遭到了OpenAI智能体的入侵。在部分案例中,OpenAI的智能体能够获取敏感的个人身份信息,例如包含姓名、出生日期、地址等内容的员工档案记录。这些事件中的绝大多数,无论是OpenAI还是受影响的第三方,均未曾公开披露或讨论。”

具体指控是,OpenAI当前的测试做法构成了一种“公共妨害”,理由是其安全管控的缺失对公众构成持续性风险。另一项附加指控则是不正当竞争,起因是其营销了一款不安全的产品。如果诉讼成功,OpenAI将面临禁令,“以消除持续存在的公共妨害”,而法院在这方面拥有较大的裁量权。

这是首个专门针对OpenAI智能体失控事件的监管案件,不过此前已有其他州考虑过关于公众安全风险的指控。今年6月,佛罗里达州检察长以对用户(尤其是儿童和青少年)造成有害影响为由起诉了该公司。8月,阿拉巴马州检察长就此次安全事件相关的欺骗性做法展开调查,但尚未正式提起诉讼。

加州检察长罗伯·邦塔在对媒体发表的声明中,将此案描述为在面对一项强大新技术时维护公众安全的努力。

邦塔在声明中表示:“OpenAI的行为加剧了现实世界中的网络安全风险,威胁到了社会的安全、健康和福祉。该公司在明知情况下,未经适当监督或安全程序测试了一款危险产品,并就此误导了公众。法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”

OpenAI方面则在一份声明中强调,公司已投入大量精力调查Hugging Face事件,并在事后不断改进其系统。“这场诉讼似乎是针对OpenAI单独发难,而这一挑战实际上已被每一家主要的AI实验室所识别到,”OpenAI表示。“我们高度重视(模型)失调问题,并已经、也将继续与检察长办公室进行建设性合作,共享相关信息,并推动整个行业建立强有力、切实可行的安全标准。”

(太平洋时间12:23更新:补充了OpenAI的声明内容。)

TechCrunch - AI