OpenAI在一项内部调查发现三名研究员存在“严重违反信任”的行为后,坚持其解雇决定。该AI实验室强调,这一决定是因为“违反信任”,而非因为他们提出了安全问题。
上周五,该公司在X平台发文表示,Jasmine Wang、Tomek Korbak和Mikita Balesni因违反“处理敏感信息的明确政策”而被解雇。公司坚称,这一决定与三人公开谈论公司及其对AI安全的担忧无关。
这篇帖子是对三名研究员周四发布的一封公开信的直接回应,信中他们呼吁OpenAI就此决定更加透明。在公开信及一系列社交媒体帖子中,三人表示,他们认为自己是因为提出安全问题而被解雇的,并称他们的行为“符合OpenAI的使命,也符合当时的工作规范”。
OpenAI表示,内部调查发现的违规行为“超出了信中所述的范围”,但并未提供具体细节。
今年以来,包括OpenAI旗下Hugging Face遭入侵等一系列备受关注的安全事件发生后,前沿系统的安全性日益成为AI公司内部员工关注的焦点。许多员工现在呼吁公司放慢脚步,采取更多措施,防范构建自我改进系统可能带来的潜在后果。
Q&A
Q1:OpenAI为什么解雇这三名安全研究员?
A:OpenAI表示,内部调查发现这三人存在“严重违反信任”的行为,违反了处理敏感信息的明确政策,而不是因为他们提出了AI安全方面的担忧。
Q2:被解雇的研究员自己怎么说?
A:Jasmine Wang、Tomek Korbak和Mikita Balesni发布公开信称,他们认为自己是因提出安全问题而被解雇,并强调其行为符合OpenAI的使命和当时的工作规范。
Q3:这件事和此前的安全事件有什么关系?
A:今年以来AI公司发生了多起备受关注的安全事件,其中包括OpenAI旗下Hugging Face遭入侵,这使得员工对前沿系统安全性的关注持续上升,不少人呼吁公司放慢开发速度,加强安全防护。
