搜索
Anthropic推AI安全法案：超50人死伤、10亿美元损失时可叫停模型
8 小时前
/ 阅读约2分钟
来源：凤凰网
AI巨头Anthropic向美国国会议员推介监管前沿AI安全与保障的法案草案，规定政府在AI模型构成迫在眉睫风险时阻止其发布或使用，独立评估机构负责定期评估AI实验室及模型。
Anthropic
凤凰网科技讯 北京时间10月17日，据Politico网站报道，据三名知情人士透露，AI巨头Anthropic的代表已私下向美国国会议员推介了一份旨在监管前沿AI安全与保障问题的法案草案。
根据该法案，政府只有在某个AI模型构成可预见的、迫在眉睫的风险时，阻止其发布或使用，这些风险包括造成超过10亿美元损失，或导致50人以上死亡或重伤。该风险必须源于模型制造或释放生物武器、模型逃避开发者控制，或发动网络攻击。这一表述与加州AI法律(包括去年签署成为法律的SB 53)中的规定如出一辙。
该法案显示，独立评估机构须向美国商务部注册，并负责定期评估AI实验室及其前沿模型。评估机构可以由接受评估的实验室支付报酬，但报酬不得与评估结果挂钩。如果评估机构认定某公司的前沿模型存在“迫在眉睫的法定列举风险”，他们必须在完成评估后72小时内向商务部报告。
今年夏天，多头部AI实验室披露了一系列事件，其中包括AI智能体入侵或探测网站和平台。截至目前，所报告的事件似乎均未造成大规模人员死亡或超过10亿美元的损失。
Anthropic发言人表示：“这项法案体现了我们在《先进AI框架》中提出的建议。自6月以来，我们一直在推动联邦和州立法者采纳这些建议。这些政策合理可行，我们认为国会应该采取行动。”(作者/箫雨)
