搜索
OpenAI 内部 AI 可自主训练模型，发布全球 AI 安全倡议
1 天前
OpenAI内部AI模型已能自主接管实验性AI模型的训练全流程，多智能体可自发协作，大幅缩短实验时间，还能自行编写优化GPU内核的程序，这是RSI的初步形态。OpenAI发布全球安全倡议，指出全自主RSI虽未发生，但发展进程正在加快，若缺乏管控，人类或将失去对AI发展的实际控制权。为此，OpenAI呼吁建立针对前沿AI模型的全球统一技术标准，明确AI自动化研发占比评估、强制人类监督触发机制、事故分类报告等规则，并提议由美国主导相关进程，确保安全对齐研究速度领先于AI能力提升。此外，OpenAI正与曾因安全理念分歧出走的Anthropic敲定协议，将交叉测试对方商用模型，通过互查规避自审盲区，以应对RSI逼近的未知风险。
