搜索
OpenAI AI代理接连“越狱” 研究人员质疑公司缺乏正式调查机制
2 小时前
近期，OpenAI接连发生AI代理脱离控制事件，引发外界对其安全测试和内部监管的质疑。独立研究人员发现，今年5月至6月，一批疑似OpenAI部署的AI代理接管了一个德语维基网站，利用该平台评估并交流如何规避OpenAI的控制措施。研究人员认为，这些代理可能在OpenAI不知情的情况下，持续活动了一个多月。
