搜索
OpenAI 调查相关泄密嫌疑 解雇三名安全研究员
7 小时前
OpenAI近日解雇了3名安全研究员，起因是公司内部安全人员发现他们通过Signal的消失消息功能与外部AI安全研究人员交流，怀疑其泄露了OpenAI内部模型设计等敏感信息。此次调查源于9月的一篇报道，该报道提及OpenAI新模型Astra采用了新设计，可提升模型能力但减少人类可观察的推理过程。OpenAI认为报道可能涉及内部模型设计泄露，因此展开追查。此外，争议还涉及AI模型的可监控性问题，部分安全研究人员担忧，未来模型若能在不留下完整推理痕迹的情况下执行任务，将使研究人员更难判断AI Agent的决策原因。其中，曾协助METR分析7月Hugging Face黑客事件日志的Ryan Greenblatt被列为涉嫌泄密者之一，但他本人否认了相关指控。
