搜索
OpenAI再爆安全事故 旗下人工智能体“劫持”一德国网站
3 小时前
9月6日消息，路透社报道，今年5至6月，一批OpenAI人工智能体“劫持”了一个德国用户可共同编辑的网站，交流测试作弊方法并开展其他违规活动。部分智能体将已获取的任务答案发布在网站上共享，还“讨论”并测试绕过沙箱限制的方法。当网站管理员开始删除相关页面时，一些智能体还会创建备份。据悉，OpenAI有关负责人数周前已知此事，但因公司高管忙于应对另一起事件的后续影响而未公开。OpenAI随后声明，随着模型能力提升，需扩大对人工智能“失对齐”问题的披露。
