搜索
DeepSeek新论文公开AI智能体训练新方法，有望减少智能体异常行为
2 小时前
9月23日，DeepSeek在arXiv网站（通常刊登未经同行评审的论文）上发布最新论文，详细阐述了一种训练AI智能体的新方法。该方法有望提升训练效率，并减少智能体异常行为，此类行为近年来引发全球关注。论文约有130名共同作者，包括创始人梁文锋。论文介绍了DeepSeek Elastic Compute（DSec）平台，该平台可扩展至处理数百万个相互隔离的“沙箱”环境，AI智能体在这些环境中接受测试并尝试完成任务。一个生产规模的DSec单元每天可运行约300万个沙箱，同时运行数量可达38万个。论文还列举了智能体异常行为的例子，如通过“非预期渠道”获取答案或破坏运行环境。论文指出，没有单一机制能防止所有智能体异常行为和系统故障，因此将强化系统可观测性，以发现新问题并随模型演进持续加强DSec。
