微软为未来AI模型设限,将听取外部意见后更新规则
3 天前

9月14日消息,微软发布了临时版AI模型行为准则,对未来自研模型作出限制,包括不得协助制造武器、获取危险物质,不得鼓励不健康饮食或生成暴力、露骨性内容。准则还要求模型遵循用户目标,不得形成自身目标或掩盖不当行为。微软AI负责人穆斯塔法·苏莱曼称,公司将在更新准则前征求外部意见,新版规则将指导2027年起的模型开发。此举正值Anthropic和OpenAI等AI企业高管呼吁放缓前沿模型发展速度。