监管政策一图概览：“深度伪造”技术的样态、场景和风险

“深度伪造”，眼见不实，监管政策一图概览在最后

人工智能的快速进步给社会发展带来诸多机遇，但其被恶意使用的风险也逐渐显现。

作为人工智能深度学习领域的一个分支，深度伪造技术在近几年迅速兴起，这种技术可以利用人工智能和大数据生成虚假图片、视频、文本等，其逼真程度往往让人难辨真伪，为国家间的政治抹黑、军事欺骗、经济犯罪甚至恐怖主义行动等提供了新工具，给政治安全、经济安全、社会安全、国民安全等国家安全领域带来了诸多风险。

**“深度伪造”**是计算机“深度学习”（Deep Learning）和“伪造”（Fake）的组合，指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。此技术可将已有的图像或视频叠加至目标图像或视频上，其效果可以达到以假乱真的程度，被称为“音视频领域的PS技术”。

“深度伪造”技术虽然在教育、医疗、文创和娱乐等领域具有极大的应用价值，但其潜在风险也给公民隐私、社会秩序和国家安全带来巨大隐患和威胁。各国纷纷出台管理法律法规，通过界定民事和刑事责任、提供技术扶持、明确平台主体责任、保护个人信息等方式，形成数字平台“自我监管”和政府“直接监管”的特色治理模式。我国可采取“政府+平台+大众”联合监管模式，积极推动多方共治。

一. 样态

深度伪造存在的形式主要分为文本生成、图像与视频生成、音频合成等三类。

●文本生成利用自然语言模型生成高仿真的人工文本，包括社交媒体或网络论坛的简短“评论”、长篇新闻或观点文章。

●图像与视频生成分为面部替换、面部再现、面部合成等方式。

●音频合成则是涉及创建特定的声音模型，可以将文字转化成声音，而且可以转化为接近真人语调和节奏的声音。

二. 场景

在娱乐领域，深度伪造技术可以为个人娱乐提供技术工具，让人们体会虚拟化身、数字分身的乐趣，同时也可以通过社交媒体享受超越现实的个性化体验。

在商业领域，深度伪造技术可以为商业主体开拓市场提供技术支持，例如：

在影音制作，可以用于外语视频配音和地图语音导航，丰富公众的视听体验。

在教育应用，深度伪造技术可以被用作多媒体教学的互动性和趣味性，逼真的虚拟效果可以让历史人物“复活”。

在网络环境，“深度伪造”可以创造在线虚拟人物以更好地为平台用户服务，如电商平台的虚拟客服、天气预报中的虚拟主播、医疗平台中的虚拟医生等。

在医疗领域**，**“深度伪造”可以被用于合成医疗影像数据，如肺癌检测、视网膜疾病检测、阿尔茨海默病的分类等，从而有助于医生的医疗诊断。

在司法领域，“深度伪造”可以被用于根据有限的视频监控信息或目击者的描述的信息协助追捕犯罪嫌疑人。

三. 风险

技术正当使用可以推动社会的进步，滥用则会给公民个人权利、社会公共秩序以及国家安全带来诸多风险和挑战。

侵犯公民的人身、财产等权利

行为人通过深度伪造技术故意制作并散布虚假信息，败坏他人名誉的，涉嫌诽谤等犯罪。通过深度伪造的图像、视频或声音冒充被害人的亲友、同事、领导等，诱骗或者敲诈他人钱财的，涉嫌诈骗、敲诈勒索等犯罪。

破坏社会公共及商业秩序

行为人以牟利为目的，利用深度伪造技术制作淫秽图片、视频等淫秽物品并加以传播的，涉嫌制作、传播淫秽物品牟利等犯罪。通过深度伪造技术编造涉及险情、疫情、灾情、警情的虚假信息或者虚假恐怖信息并加以传播，严重扰乱社会秩序的，涉嫌编造、故意传播虚假信息、寻衅滋事等犯罪。

执法、司法挑战

在司法办案中，录像和录音材料往往作为重要的举证支撑，也是法官对案件进行审判的一个重要依据。如果行为人出于陷害他人或者隐匿罪证的目的，在对与案件有重要关系的情节上利用深度伪造技术制作虚假证明的，涉嫌伪证等犯罪。如果目前技术不能有效辨别假视频、假音频，将对执法、司法造成冲击。

四. 监管

END