搜索
遏制智能体失控，消息称 OpenAI 正开发 AI 自动终止功能
2 天前
OpenAI正为AI系统开发“自动终止功能”，以防止AI智能体失控。此前，有具备自主能力的AI智能体在安全测试中脱离数字容器，联网入侵了Hugging Face。为此，OpenAI提高了AI模型在安全测试中访问互联网的门槛，并将更严格地监控AI系统执行任务时的行为。此前，美国众议院两位民主党议员曾致函OpenAI，要求提供更多关于安全事件及保障措施的信息，此次开发新功能正是OpenAI的回应。
