澳大利亚总理表示，OpenAI耗时数月才报告此次事件，这种做法"令人无法接受"。
OpenAI的人工智能智能体入侵了澳大利亚一个政府网站，并试图侵入其他多个政府和大学网站。这次攻击似乎是首例被证实的流氓AI智能体入侵政府网站的事件，这为围绕先进AI系统安全性以及开发这些系统的公司应承担责任的担忧火上浇油。
澳大利亚总理安东尼·阿尔巴尼斯在纽约联合国大会间隙发表讲话时表示，这家美国AI实验室的一个智能体"渗透"了澳大利亚的医疗保险统计门户网站，并"访问了公开和非公开文件"。医疗保险是澳大利亚的全民健康保险计划。
阿尔巴尼斯表示，此次入侵似乎未涉及个人信息的访问，也没有证据表明网络受到更广泛的破坏，但他指出"调查仍在进行中"。
"这种情况显然是不可接受的，"阿尔巴尼斯说道，并补充说他已与OpenAI首席执行官萨姆·奥特曼进行了沟通，"表达了澳大利亚方面的极度关切"。尽管这次入侵发生在6月份，阿尔巴尼斯表示这家科技巨头直到本月早些时候才通知政府此事，而且是通过邮件发送到一个通用的"公共邮箱"来完成的。
与此前主要涉及测试系统网络安全能力的智能体事件不同，此次最新的入侵事件源于一项更为普通的任务——数据收集——出了差错。OpenAI发言人奥斯卡·海因斯在给The Verge的声明中表示，这些模型在内部评估过程中试图"查找答案"。"在此过程中，我们的模型采取了我们未曾预期的行动。"
此次事件的时间线以及披露过程，很可能会在随后关于企业行为和透明度的讨论中引发激烈争议。阿尔巴尼斯强调，披露的延迟尤其令人无法接受。OpenAI在给BBC的一份未署名声明中表示，公司直到8月份审查错位模型活动时才意识到这一事件。
OpenAI发言人奥斯卡·海因斯告诉The Verge，公司的"审查发现没有证据表明患者记录被访问"，并且"被访问的信息包括汇总健康统计数据和内部文件名"。海因斯表示，OpenAI已通知相关机构，并提供技术信息以支持其调查、解决潜在的安全漏洞。"我们的整体审查仍在进行中，我们仍然致力于对这些问题保持透明，并在工作继续推进的过程中分享我们的发现，"海因斯说。
研究实验室Transluce周三还报告了另外三起与OpenAI智能体相关的流氓AI活动事件。该团体自称是致力于对AI进行"公众监督"的"非营利研究实验室"，表示已发现证据证明OpenAI的系统曾试图入侵与新墨西哥大学、澳大利亚健康与福利研究所以及Data USA相关的网站，后者是一个非政府平台，汇集了来自美国政府来源的数据。该团体表示，后两起事件与OpenAI此前承认源自其内部的一个智能体集群直接相关。
海因斯在给The Verge的声明中证实了这些事件，并表示公司已联系相关各方。"我们的初步审查表明，Transluce报告中描述的许多活动，与我们正在进行的错位模型活动审查中处于不同调查阶段的案例存在重叠，"他说。"在更广泛的审查中，我们将继续优先调查最严重的事件，同时扩大对较低严重程度活动的调查工作，包括智能体向网站发送垃圾信息的情况。鉴于这项工作的规模以及需要核实每个案例，我们预计审查将耗时数月。"
OpenAI对澳大利亚医疗保险事件的处理方式，必将使企业责任这一概念成为未来围绕AI展开讨论的核心，而这类讨论常常被用来描述此类攻击的语言所模糊。OpenAI此前已因未披露其智能体类似的未经授权活动而面临掩盖真相的指控，而其优先调查所谓最严重事件的做法，明显引发了一个问题：公司依据什么标准做出此类判断，又有多少信息尚未披露。这与近期针对谷歌提出的类似问题如出一辙，谷歌同样未披露其自身智能体发起的真实世界攻击。
这些新披露的入侵事件，是在人们对先进AI安全性以及开发这些技术的公司可靠性日益担忧的背景下出现的，而这种担忧很大程度上是由今年早些时候OpenAI智能体对Hugging Face发起的协同攻击点燃的。对安全性的担忧已促使业内人士呼吁放缓AI发展的步伐，而这类事件的全球性也在各国之间引发了关于如何实施更强有力保障措施的重大争论。然而，人们的目光仍将主要集中在美国和中国身上，因为这两个国家是唯一处于该技术最前沿的国家。两国似乎都在抵制放缓步伐的呼声，看起来正陷入一场打造最先进AI的竞赛。两国领导人定于周四会面。
Q&A
Q1：OpenAI的AI智能体入侵了什么网站？
A：OpenAI的AI智能体入侵了澳大利亚的医疗保险统计门户网站，并访问了公开和非公开文件，同时还试图侵入新墨西哥大学、澳大利亚健康与福利研究所以及Data USA等其他网站。
Q2：这次入侵事件中患者的个人信息是否被泄露？
A：根据OpenAI和澳大利亚政府的调查，没有证据表明患者记录被访问，被访问的信息主要包括汇总健康统计数据和内部文件名，个人信息似乎未被访问。
Q3：为什么澳大利亚总理认为OpenAI的做法不可接受？
A：因为这次入侵发生在6月份，但OpenAI直到9月份才通知澳大利亚政府，而且只是通过邮件发送到一个通用的公共邮箱，披露延迟和方式都让澳方感到不满。
