OpenAI同日发布两份文件：AI加速时代，安全正在掉队

12 小时前

当地时间9月6日，在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际，OpenAI发布两份文件。其一宣布公司已达成去年设定的目标，拥有可在人类指导下完成熟练研究员数天工作的“自动化研究实习生”，且正朝着2028年3月建立“自动化AI研究员”的目标推进。数据显示，截至今年8月中旬，研究人员每天使用编程Agent产生的推理费用中位数超600美元，使用量排名前10%的用户每天耗费token超7000美元，Agent承担的任务正从代码编写等向更复杂的研究工作扩展，不过复杂任务仍需大量人工介入。另一份文件由首席科学家雅库布·帕乔基撰写，聚焦前沿AI发展的安全困境，强调目前没有任何实验室将AI的对齐和监控做到足够可靠，以便在未来较长时间内继续以最高速度负责任地扩展。他希望各家实验室在共同安全标准建立前自愿放慢发展速度，并呼吁各国政府把国际协调提升为优先事项。