AI换脸拟声风险怎么应对?重点应加强传播环节监管!

2025-03-12 10:20  澎湃新闻

全国人大代表、小米科技董事长兼CEO雷军3月4日公开了今年两会的5条建议,其中"加强'AI换脸拟声'违法侵权重灾区治理"尤为引人关注,因为他本人就是AI换脸拟声的"深度受害者"。

去年国庆长假期间,短视频平台上曾经出现大量"雷军AI配音"的恶搞视频,涉及堵车、调休、游戏等热门话题,不仅言辞犀利,还常爆粗口,引得网友纷纷涌到雷军微博下发问"最近你怎么在骂人"。对此,雷军还专门发视频,呼吁大家不要再恶搞。

雷军个人账号截图

中招的不只是雷军,现在很多互联网平台,都有大量用AI移花接木、恶搞名人的音视频。还有AI魔改经典老剧,用AI生成的"假名人"来带货,也是利用了换脸拟声技术。

人工智能深度合成技术的快速发展,推动了"AI换脸拟声"在影视、广告、社交等领域广泛兴起,成为社会喜闻乐见、传播力强的技术应用。但正如雷军所指出的,"AI换脸拟声"不当滥用也成了违法侵权行为的重灾区,易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为,带来社会治理风险。