搜索
Hugging Face被曝光滥用于制作女性与儿童脱衣深度伪造图像 平台安全防护形同虚设
5 小时前
欧洲非营利组织AI Forensics最新报告指出，开源AI模型托管平台Hugging Face正成为生成非自愿性私密图像的核心渠道，且平台在防范此类滥用行为上缺乏有效干预。此前，该平台曾因用户通过Discord社交媒体发起‘数据保存行动’，将Civitai下架的5000余款可生成无同意人物色情形象的模型转移至Hugging Face，并通过改名、外部连接等方式隐蔽再上架而引发争议。这些模型主要针对知名影视女演员、网络红人与实况主，部分模型甚至附带公开范例图与推荐使用方式，引发人权与性别团体关注。尽管Hugging Face官方规范明确禁止上传骚扰、霸凌或未经同意的色情内容，但此类生成模型通常不会直接输出敏感图像，仅在用户特定输入指令时才可能产生争议结果，导致平台在执行审查时陷入灰色地带。目前，尚不清楚Hugging Face是否将展开清查与后续下架行动，但事件已再次凸显生成式AI门槛降低后，内容‘同意权’成为下一阶段伦理与法规的攻防焦点。
