治理AI“深度伪造”,中国正在与美欧并跑

2022-02-23 18:00     观察者网

【编辑/周远方】

作为人工智能领域的新实践,近年来,利用深度学习、虚拟现实等生成合成类算法制作图像、音频、视频、虚拟场景等信息的深度合成技术,已在多个领域大量应用,伴随着不断涌现的使用需求,深度合成内容数量和关注度呈现快速增长态势。

另一方面,每一次技术变革,在造福社会的同时,也不可避免地会带来安全风险。恶意使用该技术生成的音视频,也显现出了巨大的破坏力,给个人、企业造成了声誉损害和财产损失,也对社会、国家安全造成威胁。

为了对人工智能和深度合成技术的健康发展提供参考和指引,清华大学人工智能研究院、北京瑞莱智慧科技有限公司、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心近日联合发布《深度合成十大趋势报告(2022)》(以下简称“《报告》”),从技术研究、领域应用、发展趋势等多个方面,全面深入地介绍和研判深度合成技术及应用带来的机遇与挑战,并就其发展与治理给出切实可行的建议和措施。

《报告》截图

深度合成爆发式增长

深度合成的图像、视频、音频、文本等内容,例如热门影视剧片段、话题明星的换脸视频等等,具有极强的娱乐性与传播性,伴随着技术的发展成熟,越来越多的创作者在互联网上发布和分享深度合成内容,数量逐年高速增长。以视频为例,《报告》显示,在国内外主流音视频网站、社交媒体平台上,2021年新发布的深度合成视频的数量较2017年已增长10倍以上。

深度合成在影视制作、广告营销、社交娱乐等领域发展出多元化的商业应用,例如AI合成主播、虚拟偶像、修复历史老照片、影视剧本地化配音、“数字复活”已过世演员等。

今日关注
更多