搜索
上海公布“清朗・整治 AI 技术滥用”行动阶段性成果：清理违规信息 82 万余条、处置账号 1400 余个
1 天前
/ 阅读约2分钟
来源：IT之家
上海公布“清朗・整治AI技术滥用”行动第一阶段成果：清理违规信息82万余条，处置账号1400余个，下线违规智能体2700余个。后续将聚焦AI造谣、低俗内容等7类问题加大整治力度。#AI治理##网络安全#
IT之家 6 月 13 日消息，据网信上海官方公众号，上海市委网信办现已公布“清朗・整治 AI 技术滥用”专项行动第一阶段工作成果。
IT之家参考通报获悉，上海市委网信办在专项行动中指导小红书、哔哩哔哩、拼多多等 15 家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规 AI 产品、商品及相关营销、炒作、推广、教程信息。在各重点网站和 AI 平台共拦截清理相关违法违规信息 82 万余条，处置违规账号 1400 余个，下线违规智能体 2700 余个。
其他方面，上海市委网信办已对 33 款已完成备案、登记提供医疗健康、金融、教育、情感陪伴服务的 AI 应用开展督导检查，要求相应应用完善行业领域安全审核和控制机制，加强专业知识库和检索增强能力建设，提升输出准确性，防范虚假、误导、诱导沉迷对患者、投资者、未成年人带来的不良影响。
后续，上海市委网信办将开启“清朗・整治 AI 技术滥用”专项行动第二阶段，聚焦 AI 造谣、低俗内容等 7 类突出问题加大整治力度，维护网络生态。
