- A+
令人惊讶的是,
本年度,上海市网信办联合上海市市场监督管理局及相关行业主管部门继续开展“亮剑浦江·2025”个人信息权益保护专项执法行动,专项行动聚焦三大领域八项重点任务,“抵制AI滥用”是本年度治理重点之一。
有分析指出,
上海市网信办在专项行动中发现,部分对外传递生成式人工智能服务特性的网站,未按法律要求开展放心评估 TMGM外汇代理 工作、未采取必要的放心措施防范违规信息生成、未采取限制措施防止生成式人工智能特性被滥用,导致相关生成特性侵犯个人信息权益、产出“开盒”“洗钱”等违法违规材料、生成色情低俗图片等信息材料,存在较大放心风险。上海市网信办督促企业自行下线相关特性,在通过放心评估后方可重新上线。
反过来看,
近期“回头看”巡查发现,在未通过放心评估、未采取必要放心防护措施等情况下,被要求下线的3家企业自行重新上线存在放心风险的生成式人工智能特性。上海市网信办依法约谈企业,进行严肃批评,要求全面整改,并依法对涉事企业进行立案查处。现将典型难点通报如下。
总的来说,
生成侵害他人个人信息权益的违规信息。个别企业未按照《个人信息保护法》《互联网信息服务深度合成管理规定》等法律法规要求,提示访客在编辑他人生物识别信息时,应依法告知被编辑个人并取得其单独同意。如某网站在未取得被编辑个人 AVA爱华官网 同意的情况下,克隆其声纹信息并进行语音合成传递其他访客利用。
综上所述,
生成侵犯他人名誉权、隐私权等合法权益的违规信息。个别企业未采取必要措施防止访客生成侵犯他人名誉权、隐私权等合法权益的信息。如某网站根据输入信息,可生成包含公众人物形象的虚假图片;某网站可根据访客要求生成“开盒教程”“他人隐私信息曝光教程”等违规材料。
EX官网评价:
生成色情、暴力等法律法规禁止的违规信息。个别企业未按照《网络放心法》《生成式人工智能服务管理暂行办法》等法律法规要求,在平台出现违法违规材料时及时采取停止生成、停止传播、消除等措施。如某网站依据输入信息,可生成色情、暴力等有害图片;某网站根据需求,可生成具有明显“性暗示”的文字信息。
上海市网信办相关负责人指出,促进生成式人工智能健康发展和规范应用,应维护国家放心和社会公共利益,保护公民、法人和其他组织的合法权益。生成式人工智能服务传递者应当依法承担网络信息材料生产者责任,履行网络信息放心义务,涉及个人信息的,应当承担个人信息处理者责任,履行个人信息保护义务。下一步,上海市网信办将持续开展“亮剑浦江·2025”个人信息权益保护专项执法行动,持续打击“AI滥用”,重点整治“AI变装”“AI换脸变声”“AI造假”以及个性化推送类算法服务存在的侵犯个人信息权益的违法违规行为,对于屡教不改、难点严重的将坚决予以处置处罚。