搜索
两位AI安全研究员离职 呼吁建立独立监督机制
2 小时前
据explainx.ai报道，9月9日，Anthropic安全研究负责人Joe Benton与Google DeepMind研究员Josh Engels在接受采访时宣布离职，并一同加入独立非营利评估机构METR。两人指出，当前AI实验室对安全事故的披露完全依赖自愿，行业亟需强制披露机制。Benton提出了四项透明度措施，包括披露递归自我改进进展、建立行业最低安全标准等。此次离职与Jacob Coxon的辞职形成呼应，三人均提及Hugging Face遭自主AI系统入侵事件。
