搜索
Anthropic 向外开放近似员工权限 评估大模型安全风险
1 天前
Anthropic已向非营利机构METR的6名工作人员开放了近似内部员工级别的大模型相关访问权限。这些工作人员可进驻Anthropic办公场地，访问其硬件与内部系统，以评估大模型风险。评估报告将由评估人员独立对外发布，Anthropic仅可要求删节客户数据、涉密内容及模型架构细节等特定信息，无权否决报告的发布。此合作是Anthropic落实其此前提出的派驻外部审计人员以强化AI安全防护承诺的首个举措。METR资金来源独立，不向Anthropic收取任何费用。当前，外界对强能力AI系统的潜在风险担忧日益加剧，引入第三方评估已成为头部AI实验室的核心应对策略之一。Anthropic的这一方案曾获得OpenAI的山姆・奥尔特曼与SpaceX的埃隆・马斯克的共同认可，但OpenAI尚未出台相关落地计划。不过，该机制也引发了关于利益冲突的批评，有声音呼吁实施更严格的政府监管。Anthropic则辩称，完全公开信息可能被恶意利用，其模式类似于银行监管部门派驻人员入驻大型银行审查风险的机制。此外，Anthropic正在推进年内IPO计划，预计估值将超2万亿美元，其在投资者推介材料中重点介绍了自身的安全管控措施。除METR外，Anthropic还与埃森哲合作，投入至少10亿美元搭建安全防护体系，并与第三方机构SecureBio联合审查化学生物武器相关风险。Anthropic呼吁所有前沿AI企业都采取派驻外部评估人员的做法。
