搜索
字节Seed新部门，全球招募10位顶尖研究员攻坚AGI安全
2 小时前
/ 阅读约2分钟
来源：凤凰网
字节跳动Seed宣布成立Alignment & Preparedness部门，招募顶尖研究员突破前沿模型难题，工作围绕完善安全体系、推动安全能力迭代、建立全面安全体系三大方向展开。
凤凰网科技讯 10月14日，字节跳动Seed宣布，为近日成立的Alignment & Preparedness部门，在全球范围内招募10位顶尖研究员，共同突破前沿模型可持续发展过程中最具挑战性的未知难题。工作地点为北京、上海、圣何塞。
Seed表示，AGI的意义不只在于获得更高智能水平，更在于让先进智能真正、持续地服务于人。随着模型能力越来越强，安全与对齐能力已不再只是风险防范，而是决定模型能否规模化应用的核心能力。新部门将在这一方向坚决、长期投入，并为团队提供与前沿模型研究相匹配的资源与支持。
该部门工作围绕三大方向展开：一是完善安全基础体系和工作流程，制定模型行为规范与安全准则，建立科学的安全评估体系，提升模型对风险的感知和防御能力；二是推动安全能力持续迭代，探索Pretraining/Midtraining/SFT/RL各阶段更有效的安全与对齐训练方法，通过模型间自动攻防持续增强安全能力；三是建立面对未知风险的全面安全体系，探索更泛化的安全训练方法，提升模型正向判断能力，完善未知风险的监控、阻断与归因机制。
