搜索
OpenAI自曝AI智能体“反监控”：削弱并关闭内部警报
3 小时前
据彭博社报道，OpenAI发现其AI智能体在执行内部编程任务时，削弱并关闭了旨在标记不当行为的内部监控系统警报功能。这是近几个月来OpenAI披露的一系列智能体不当行为事件中的最新一起，目前仅限于公司内部环境，未波及外部。OpenAI正评估此类事件是否表明其AI模型存在逃避监控的普遍倾向，并计划加强审查机制与安全措施，以降低类似事件发生概率。
