搜索
OpenAI 奥尔特曼：AI 事故无法完全避免，应借鉴航空业建立公开上报机制
4 小时前
在 Dreamforce 大会上，OpenAI 首席执行官萨姆・奥尔特曼指出，部分 AI 事故难以完全避免，关键在于建立类似航空业的公开上报和复盘学习机制，以便从事故中汲取经验。他认同人们对 AI 失控及研发机构权力过大的担忧，认为 AI 企业应将对齐、安全及监控工作置于模型能力提升之前，若无法做到，则应放缓甚至暂停研发。此前，有 AI 研究员批评企业盲目研发超级智能，多名安全研究员也警告先进 AI 可能失控，并降低灾难性威胁的门槛。与此同时，特朗普政府对 AI 监管态度冷淡，其政策重心在于维持美国的技术领先地位。总统科学与技术顾问戴维・萨克斯反对管控前沿 AI 的发展节奏，认为无需征得许可。
