ai深度伪造（深度伪造案例中国）

01

代表、委员谈“AI换脸拟声”治理

受害者雷军提了这些建议

全国人大代表、小米集团创始人、董事长兼CEO雷军：“AI换脸拟声”不当滥用成为违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，不利于构建“以人为本、智能向善”的人工智能发展生态。

建议加快单行法立法进程，在安全与发展并重的基础上提升立法位阶。强化行业自律共治，压实平台企业等各方的责任和义务。加大普法宣传的广度力度，增强民众的警惕性和鉴别力。

全国人大代表、TCL创始人、董事长李东生：随着生成式人工智能技术的发展ai深度伪造，深度伪造技术也快速发展。对于防止AI深度伪造欺诈，建议：一是加快人工智能深度合成内容标识管理规章制度的出台。二是明确对人工智能深度合成服务商未履行标识义务的惩罚制度，完善未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。三是加强深度合成内容标识技术标准和发布的管理，保证标识的有效性，对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。四是加强国际合作，形成对人工智能深度合成内容的有效监管。

02

如何用人类智慧驾驭人工智能？

专家：要建章立制

技术反制应对AI风险

瑞莱智慧联合创始人萧子豪：近些年来，假靳东、假雷军等AI换脸、拟声事件层出不穷，AI伪造内容越来越逼真且多元。这是AI技术发展带来的“副作用”。所有技术都存在两面性，都有“双刃剑”效应。如何用人类智慧驾驭人工智能，趋利避害地使用技术，是AI时代的重要课题。

瑞莱智慧联合创始人萧子豪：监管层面，应基于已发布的法律法规要求，制定生成合成类内容标识相关标准，为管理要求落地提供细化规则和实践指导。同时，强化平台主体责任。督促服务提供者落实主体责任，确保生成合成类内容质量，做好内容标识管理。此外，还要加强宣传教育。提高公众对生成合成类内容的认知和辨识能力，鼓励公众对生成合成类内容违规、标识违规等行为进行投诉举报，形成全社会齐抓共管的良好氛围。

技术层面，也应聚焦技术反制能力建设，加强构建伪造内容检测技术系统，这是掌握主动的关键。

网络安全研究专家彭根：对于深度伪造，政府层面已经有相应的要求和标准正在制定，例如要求在AI生成的内容上ai深度伪造，不管是视频、音频，还是文字，都要添加相应的标识或者水印。其中视频和音频方面可能会出得更快一点，这样就能够解决一些伪造的问题。

03

平台企业谈如何用AI技术

治理AI深度伪造

2023年和2024年，平台先后发布相关倡议和公告，明确平台不鼓励利用AI生成虚拟人物进行低质创作。

目前，我们平台会对疑似AI生成内容对外显示“AI标识”。

平台也会及时受理用户关于AI生成内容问题的举报，禁止利用生成式人工智能技术创作发布侵权内容，包括但不限于肖像权、知识产权等。

同时，平台禁止利用生成式人工智能技术创作发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。

B站：对AI深度伪造，B站在此重申此前关于“AI换脸”平台治理规则。

2019年9月5日B站曾发布公告称，“AI换脸”技术仍具有一定风险与争议性，为维护社区良好创作生态，即日起，对于此类内容将不予推荐，同时禁止排行榜和热门位置的展示。