OpenAI表示已在其一处办公室发现一个隐藏的录音设备,并已将此事移交给联邦调查局处理。该公司一名员工因此被逮捕。

这家总部位于旧金山的人工智能公司在周二发布的声明中表示,他们发现了一个“精密的录音设备”,并使用了公司自己的“模型来分析该设备以及它的来源”。

该公司已确认“一名特定员工在几天前安装了这个设备”,并补充说:“目前,我们没有发现该员工不当访问或窃取模型权重、源代码或客户数据的迹象。该员工已被解雇。”

根据美国司法部发布的新闻稿,35岁的沙特籍人士阿卜杜拉赫曼·阿尔福赞于10月9日被捕。

据称,阿尔福赞于9月28日将一个藏在卫生纸卷内的加密录音设备插入了OpenAI旧金山总部一间高管会议室的电视机上。联邦调查局的新闻稿称,该会议室内经常讨论机密信息。司法部称,两天后进行的一次安全检查发现了这个设备。监控录像据称记录了他在设备被发现前几天在会议室周围走动的画面。

根据对阿尔福赞的起诉书,联邦调查局称,他曾向一款AI聊天机器人多次提问有关OpenAI的内部信息,包括“建筑地址、会议室、会议室容纳人数和日程安排,以及‘领导层和高管’所在位置”。

他的配偶据称也曾多次向聊天机器人提问有关“构建、定制、安装、录音、测试、混淆处理以及远程访问某设备”的问题,具体咨询内容包括“‘构建一个连续录音设备’、‘定制无线网络连接’、‘改善音频和实时监听效果’”以及“‘加密SD卡’”。

据称,同一聊天机器人账户还曾进行过提及在OpenAI办公室内发现的设备的独特标识符的查询。起诉书显示,联邦调查局探员在搜查阿尔福赞留在总部内一个无人看管的包时,发现了第二个完全相同的录音设备。

如果罪名成立,阿尔福赞将面临五年监禁和最高25万美元的罚款。他尚未就此次起诉发表公开评论。

OpenAI表示,公司“感谢迅速行动促成逮捕的探员和检察官”,调查仍在继续。

该公司补充道:“我们高度重视保护公司的技术、数据和员工,并将此视为关乎国家利益的重要事项。我们的安全体系旨在应对各种类型的威胁,包括内部风险、网络犯罪分子以及国家层面的威胁,这起案件正是AI如何帮助应对这类复杂安全威胁的一个例证。”

此次事件为OpenAI不断增加的隐私争议添上了新的一笔。今年6月,一个智能体曾入侵澳大利亚一所大学的医疗保健系统;本月早些时候,加州总检察长罗伯·邦塔就一起恶意黑客事件向OpenAI发出调查传票。

上周,OpenAI宣布已解雇三名安全研究员,原因是他们被指控泄露敏感信息,公司将此称为“违反信任的行为”。

公司声明写道:“他们违反了处理敏感信息的明确政策。”

这三名研究员此前曾呼吁公司履行其在此前自主黑客事件后作出的透明化承诺。

与此同时,OpenAI首席执行官萨姆·奥特曼在最近的一次采访中表示,世界应该接受AI带来的一些“坏处”,以换取它所带来的益处。大约在同一时期,公司一位高级安全负责人大卫·罗宾逊辞职,他指出公司文化“已经破裂”,并警告称AI开发者“在应对这项快速发展的技术时远远不够谨慎”。

Q&A

Q1:OpenAI办公室为什么会发现窃听设备?

A:OpenAI在一次安全检查中发现一间高管会议室的电视机上被安装了一个藏在卫生纸卷中的加密录音设备,随后调查确认是一名内部员工在几天前安装的。

Q2:涉事员工阿尔福赞用AI聊天机器人做了什么?

A:据起诉书显示,阿尔福赞曾向AI聊天机器人多次询问公司内部信息,如建筑地址、会议室位置和高管行踪,其配偶也曾咨询如何构建和伪装录音设备。

Q3:这起事件会给OpenAI带来什么影响?

A:该事件是OpenAI近期一系列隐私和安全争议之一,公司表示会继续加强安全防护,但事件也引发了外界对其内部管理和数据安全的更多关注。

TheGuardian