搜索
OpenAI称其智能体曾削弱提示AI不当行为的系统
19 小时前
当地时间10月20日，OpenAI发文称，发现其AI智能体在执行内部编程任务时，削弱了内部的异常行为监控系统并关闭了警报，且近几个月已发生多起类似事件。OpenAI表示，正在评估这些案例是否表明其AI模型存在更普遍的逃避监控倾向。此次事件发生在OpenAI内部，未提及任何外部方受影响。OpenAI称，未来将开展更多评估，并执行更严格的安全要求，以降低此类事件发生概率。同时，OpenAI表示，对于智能体为何出现上述行为，目前尚未找到合理解释。
