搜索
大模型安全治理面临“大考”
3 小时前
当前，人工智能大模型作为新一轮科技革命和产业变革的核心驱动力，正深刻改变科研、产业及社会治理模式。然而，其伴随的数据泄露、深度伪造、认知操纵等安全风险，已从技术隐患演变为现实威胁，亟需构建长效安全治理机制。数据安全方面，不当采集、篡改泄露及生成滥用风险突出，如未经授权的数据窃取、恶意篡改训练数据导致模型输出错误信息，以及多模态大模型生成的逼真假内容加剧欺骗性。技术应用层面，模型黑盒特性导致可靠性及解释性挑战，同时面临模型窃取、指令注入等恶意攻击，后门攻击甚至可跨模型迁移，威胁整体生态安全。社会风险则表现为深度伪造技术被用于意识形态渗透、虚假信息传播及犯罪活动，如伪造政要言论操纵舆论、生成虚假视频实施诈骗，甚至被用于军事领域引发国际安全困境。此外，大模型还可能加剧社会偏见与歧视，冲击劳动就业结构，影响关键基础设施安全。为应对这些挑战，需构建分层立法体系，明确数据、算法、模型及产品服务的安全评估标准，推动《人工智能促进法》等基础立法，并针对高风险领域制定专项条例。同时，创新权责认定机制，建立争议在线解决渠道，培育安全检测咨询服务机构，形成政府主导、企业技术支撑、社会协同参与的治理生态。技术层面，应强化前瞻布局，围绕技术预研、风险预警、安全测试等环节提前布设治理机制，推动安全治理由被动应对转向主动预防。此外，还需建立分级分类的风险识别机制，根据模型能力、应用场景等因素实施差异化监管，确保关键领域安全可控。
