搜索
OpenAI高薪招募安全专家 应对AI自我进化风险
2 小时前
OpenAI正致力于开发能够自我优化的AI工具，并已开始为潜在风险做准备。过去六个月，OpenAI和Anthropic的编程工具取得显著进展，AI系统的‘递归式自我改进’潜力成为行业关注焦点。这种技术使AI能通过自身能力参与下一代模型的开发，形成‘AI造AI’的循环，无需人类干预即可持续迭代。然而，这一进程面临算力消耗巨大、认知闭环风险及失控不可预测性等挑战。为应对这些风险，OpenAI正在招聘安全研究员，专门研究AI自我进化可能带来的后果，并开发工具保护模型免受数据投毒攻击，同时追踪技术自动化的发展进度。
