搜索
Anthropic 研发 FlashProve 为 AI 输出添加数字指纹防模型伪装
2 天前
Anthropic正在开发开源验证系统FlashProve，利用密码学为AI输出提供数学保证，证明确实出自指定模型，防范模型间伪装行为。该系统可堵住AI公司用廉价模型替换高价模型的成本作弊漏洞，避免人为抬高模型跑分的造假行为，并可核验涉及模型使用的第三方宣传。其关键设计是：AI实验室只需为每个模型提供不泄露核心权重的公开指纹，用户即可在本地完成验证。目前技术规范与可运行代码已开源，研究仍在推进，暂未计划自行部署。
