近日,图灵奖得主、清华大学人工智能学院院长姚期智,联合图灵奖得主约书亚·本吉奥、清华大学智能产业研究院院长张亚勤、加州大学伯克利分校教授斯图尔特·罗素等全球顶尖AI科学家,在英国皇家学会共同签署《IDAIS伦敦宣言》。此次会议是人工智能安全国际对话(IDAIS)系列的第五场,由安全人工智能论坛与牛津大学马丁人工智能治理研究院联合主办,旨在防范AI驱动的攻击行为对社会造成大范围危害。宣言预警了AI网络与生物滥用风险,指出非国家行为体或将在一年内掌握国家级网络攻击能力,AI生物滥用风险也在持续攀升。针对这些风险,宣言提出了强化关键基础设施防护、建立AI攻击能力评测机制、落实模型发布前测试等具体举措。
