搜索
字节 Seed 组建新部门 强化前沿 AI 模型安全与对齐能力
2 小时前
字节跳动旗下 Seed 实验室近日成立新部门「Seed Model-alignment & Preparedness」，由严林领导，直接向 Seed 负责人吴永辉汇报。该部门整合了原 Responsible AI 团队及部分 Chat 团队成员，旨在加强模型安全与对齐领域的研究与投入。新部门将专注于提升智能体模型的安全能力，防范包括化学、生物、放射性和核（CBRN）等在内的前沿能力潜在风险。其工作范围涵盖模型规范制定、安全评估体系建设、对齐训练、防护系统搭建及风险监控，并将加强与外部研究机构及第三方评测机构的合作。作为国内首个单独设立安全与对齐部门的前沿 AI 实验室，Seed 此次调整将安全与对齐作为独立职能进行建设，旨在确保前沿模型在安全规范和授权约束下有效执行任务，降低模型滥用及行为偏离风险，完善应对未知风险的安全体系。
