搜索
微软 CEO 纳德拉呼吁为先进 AI 模型设立人类可控紧急制动机制
1 小时前
微软首席执行官萨蒂亚・纳德拉发文，呼吁行业为先进人工智能模型引入紧急制动机制，并彻底评估现有的AI信任架构。他建议，应从模型防御已被攻破的假设出发，推行审慎的安全治理策略，主张将底层AI模型与任务控制框架分离，使控制和安全措施外部化。纳德拉要求，每次有意义的模型操作都应附带防篡改、人类可读的执行证据，确保授权人员能随时暂停或关闭模型。这一主张与其他科技领袖的谨慎开发计划相呼应，凸显了行业对AI模型失控风险的高度警惕。业内分析认为，建立透明、可控且具备外部干预能力的AI行业标准，是平衡技术创新与安全底线的关键。
