三名前OpenAI安全研究人员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王因担忧公司突然解雇会引发寒蝉效应,于本周发表公开信。他们指出公司的开放文化正受到冲击,可能导致员工不敢自由发表意见。三人提出三项建议:允许第三方安全审计人员进驻、确保AI模型持续监测、支持安全研究人员与行业机构公开交流。OpenAI研究部门负责人随后在内部备忘录中对这三项建议表示支持,澄清解雇决定与安全问题无关,强调公司始终鼓励员工表达意见。
文章作者、来源:AIBase
上周遭遇突然解雇的三名前OpenAI研究人员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王于今日正式发表了一封公开信。他们在信中直言,担忧公司的这一突发举措会让其他在职员工噤若寒蝉,进而对OpenAI整体的企业文化造成严重的负面冲击。
这封题为《OpenAI无法独自确保AI安全》的公开信由此前从事AI对齐研究的巴莱斯尼发布在社交媒体上,收信对象为OpenAI的各安全委员会。另外两名署名者科尔巴克和贾斯敏·王同样此前专注于AI安全研究,并在上周一同被解雇。

在具体的解雇缘由方面,巴莱斯尼在发文中透露,公司给出的理由是其“与第三方安全机构交流过多”而导致信任破裂。他对此澄清称,自己从未对外泄露过任何公司的知识产权信息,且日常工作一直与直属上级、研究部门管理层以及董事会保持着高度协调。另一位署名者科尔巴克也表示,公司曾口头告知解雇原因为他“与METR沟通的方式”,但他强调与METR沟通本就是其职责所在。
针对这一风波,三人在公开信中表达了深切担忧,认为这种突发且仓促的解雇方式,已经让OpenAI过去引以为傲的开放文化受到了寒蝉效应的冲击,并可能导致其他员工今后不敢再像以往那样自由发表意见或开展工作。为此,三人向OpenAI提出了三项具体建议:首先是允许第三方安全审计人员进驻公司,其次是确保前沿AI模型能够持续受到有效监测,最后是支持安全研究人员与行业内其他机构保持公开透明的交流。
面对外界质疑,OpenAI的一位研究部门负责人在随后发给员工的内部备忘录中,对这三项建议表达了强烈支持。该负责人表示,公司非常感谢三人对AI安全工作的贡献以及敢于直言的品质,并澄清解雇决定与他们提出安全问题或公开发声无关,强调OpenAI始终鼓励且今后也将继续鼓励员工表达意见,绝不会因为员工提出担忧而将其解雇。