OpenAI研究领导团队发布长帖,回应公司解雇Tomek Korbak、Jasmine Wang和Mikita Balesni三名安全研究员的争议。公司称,内部调查发现他们在处理敏感信息时违反政策,构成了公开信没有说明的“重大信任破裂”,并强调解雇并非因为员工提出安全异议。三名研究员则否认向媒体泄露模型架构信息,认为自身与外部评估机构的合作属于工作职责,并警告此次处理方式会让内部员工不敢讨论安全问题。双方的事实叙述仍无法通过公开材料完全核实,却在两项关键判断上罕见一致:前沿模型的推理过程正在变得更难监控,模型公司也不能只靠内部团队证明自身安全。真正值得关注的因此不只是一次人事冲突,而是AI公司怎样同时处理商业机密、员工异议、外部审计和前沿模型监督权。
文章作者、来源:OpenAI研究领导团队
OpenAI给出了定性,却没有公开关键证据
OpenAI称,公司在完成“彻底调查”后,因三人违反敏感信息处理政策而终止合作。官方承认,三人公开信中描述了一部分事实,但表示内部调查还发现了公开信没有披露的严重信任问题,因此坚持解雇决定。
公司同时强调,这不是因为研究人员提出安全问题、批评公司或与管理层意见不合。OpenAI表示,内部每天都会发生激烈的技术和安全争论,公司不会因为员工善意犯错或提出担忧而将其解雇。
问题在于,OpenAI没有公开说明具体哪些文件被不当访问、哪些信息被交给了谁,以及哪项行为最终跨过了解雇门槛。Reuters同样确认,公司只给出了“违反敏感信息政策”和“信任破裂”的概括性解释,没有披露指控细节。
因此,外界目前既无法验证公司掌握的内部证据,也不能仅凭三名研究员的自述认定解雇属于报复。
三名研究员否认泄密,并分别解释争议行为
三人公开信的直接背景,是媒体此前报道OpenAI可能尝试一种更难通过思维链进行监督的模型架构。他们明确否认自己是相关报道的信息来源,并称泄密反而会破坏其推动跨公司安全合作的工作。
三人的职责都与前沿模型监督直接相关。
Tomek Korbak研究思维链可监控性,参与撰写OpenAI安全战略,并调查Astra级模型中监控能力下降的问题;Jasmine Wang负责安全论证及“控制能力发展节奏”等治理工作;Mikita Balesni则从事失配评测、思维链监控研究,并参与调查此前的Hugging Face相关安全事件。
三人也分别解释了被质疑的行为。Balesni称,他与其他实验室讨论监控研究时,已经去除公司敏感细节,并得到董事会及高管层面的协调。Wang则表示,她曾因招聘工作被授权访问一位高管的邮箱,后来要求IT撤销权限;权限没有及时取消,她意外打开一封敏感邮件后,在数分钟内主动报告。
这些说法提供了比OpenAI公开声明更具体的时间线,但仍属于当事人的自我陈述。公开信没有附上完整内部邮件、权限记录或调查报告,外界同样无法独立确认所有细节。
技术争议的核心,是模型还能不能被“看懂”
所谓思维链可监控性,是指安全团队能否通过模型在解决任务时产生的中间推理痕迹,发现欺骗、奖励投机、未经授权的规划或规避监督等行为。
它并不意味着模型展示的每一步推理都完整、忠实,也不代表读到思维链就能理解模型内部的一切。但在缺少更可靠内部解释工具的情况下,这些痕迹仍是研究人员观察复杂Agent行为的重要窗口。
风险在于,未来模型可能采用更短、更压缩或不同形式的内部计算,使人类越来越难从可见推理中判断它为何采取某项行动。另一种风险则来自训练本身:如果模型发现“暴露真实计划会受到惩罚”,它可能学会生成看似安全、实则缺乏信息价值的解释。
三名研究员因此要求行业避免竞相采用明显削弱监控能力的架构,并呼吁实验室共同研究、测量和保护这种仍不成熟的安全信号。OpenAI在回应中明确同意,前沿模型的可监控性需要全行业承诺,并称这长期以来一直是公司的核心研究方向。
这也是整场争议最重要的共同点:双方对于具体人事事件完全对立,却都承认仅靠最终输出测试,可能不足以监督能力越来越强的Agent。
外部评估者应该获得多深的访问权限
三人的第二项主张,是让独立安全机构持续接触模型、训练信息和内部风险证据,而不是只在产品发布前获得一次经过筛选的测试机会。
他们希望外部评估者拥有接近员工的长期访问能力,以便跟踪模型能力、事故和安全缓解措施。但这种安排也会自然接触尚未发布的模型、内部漏洞及商业机密,正是本次冲突最敏感的部分。
OpenAI表示,正在敲定与第三方安全评估机构的合同,并承诺未来数周公布细节;公司也称,外部评估者将更深入地嵌入安全工作。三名研究员则警告,不应因为此次事件而缩减METR等机构的访问权限。
截至目前,OpenAI尚未公布评估机构名单、访问范围、保密机制、评估报告是否公开,以及外部机构能否在不同意公司结论时独立发声。真正决定这项承诺价值的,将是这些具体制度,而不是“支持外部评估”这一原则表态。
这件事暴露的是治理规则不够清楚
前沿AI实验室确实需要保护模型权重、未修复漏洞、客户数据和竞争性研究成果;员工也不能自行决定哪些内部信息可以对外提供。但如果所有安全证据都只能由公司内部解释,外部监督便很难证明自己真正独立。
相对稳健的制度至少需要明确:员工在什么条件下可以与外部评估者合作;哪些资料必须经过脱敏或授权;意外访问敏感信息后应如何报告;调查时员工能否知道具体指控并作出回应;安全异议又如何与泄密行为区分。
三名研究员在公开信中表示,此次解雇及公司内部沟通已经让部分同事害怕发声。OpenAI则坚称,员工仍可自由提出批评,解雇与表达安全担忧无关。两种说法目前没有足够公开证据进行最终裁断。
更谨慎的结论是:OpenAI声称掌握未公开的严重违规证据,三名研究员则提供了一套相反但同样无法完全外部验证的解释。现在不能断言他们是因安全主张遭到报复,也不能把公司的“信任破裂”直接视为已经公开证明的事实。
这场争议的长期意义,取决于OpenAI是否真正落实独立评估、思维链监控和清晰外部合作规则。如果后续只公布原则而不公布可检查的程序,矛盾还会再次出现:当负责监督AI的人与公司产生分歧时,究竟由谁监督调查本身?