搜索
AI开源模型能力逼近行业顶尖 开发者安全防护已产生鸿沟
1 天前
随着全球政界与科技界对大型人工智能系统监管方式的持续争论，开源与开放权重模型在技术能力上正迅速逼近行业领先者。然而，这一趋势也带来了日益凸显的安全防范隐患。开源模型通过公开代码与权重文件，降低了使用门槛，促进了技术创新与民主化，但同时也面临恶意使用、供应链安全威胁及权重层面的后门攻击等风险。例如，Meta公司的Llama模型权重泄露后，出现了多个未经安全审查的变体，部分变体甚至能绕过原有的安全过滤机制。此外，国家安全部披露的案例显示，个别单位因直接使用开源框架建立联网大模型，导致攻击者未经授权即可自由访问内部网络，引发数据泄露和安全风险。面对这些挑战，全球各国与国际组织正积极探索有效的监管路径，以平衡创新与安全，确保人工智能技术的健康有序发展。
