学术前沿 | 复旦大学张新鹏教授团队：人工智能生成内容模型的数字水印技术研究进展
引用
郭钊均, 李美玲, 周杨铭, 等. 人工智能生成内容模型的数字水印技术研究进展[J]. 网络空间安全科学学报, 2024, 2(1): 13-39.
GUO Zhaojun, LI Meiling, ZHOU Yangming, et al. Survey on digital watermarking technology for artificial intelligence generated content models[J]. Journal of Cybersecurity, 2024, 2(1): 13-39.
背 景
人工智能（Artificial Intelligence, AI）的迅速崛起正在深刻地转变我们的社会和生活方式。作为AI技术的一个前沿领域，人工智能生成内容（Artificial Intelligence Generated Content, AIGC）引起了广泛的关注和讨论。AIGC的出现不仅开辟了创作的新途径，也带来了众多挑战和问题。鉴于这些新兴技术的迅猛发展，我们需要深入探讨AIGC的发展历程、技术演变及其带来的法律、道德和安全挑战，以便为该领域的未来发展提供指导和参考。
在过去几年中，AIGC技术在文本、图像和音频等多个领域取得了显著进展。这些技术的广泛应用已经深入到我们的日常生活中，如自动化写作、图像合成和音乐创作等。然而，随着AIGC技术的普及，也涌现出新的问题，包括内容的真实性、知识产权保护以及潜在的滥用风险。因此，对AIGC技术进行深入研究，解决这些问题，推动其健康发展显得尤为重要。
过程研究
本文重点探讨了AIGC技术的发展历程和技术特点，以及相关的法律法规和国际动态并深入研究AIGC模型中的数字水印技术，探讨其在内容保护和安全领域的应用前景。通过对AIGC技术及其衍生问题的全面研究，我们可以更好地理解其潜在影响，并为其可持续发展提供有益的建议和方向。
本文第一节详细介绍了生成式大模型的技术发展
我们首先探讨了生成对抗网络（Generative Adversarial Network, GAN），紧接着分析了扩散模型和深度伪造（Deepfake）技术。此外，本节还将涵盖GPT生成模型，并以人工智能生成内容（Artificial Intelligence Generated Content, AIGC）的大型模型为结尾，概述其技术架构和应用场景。
本文第二节介绍了数字水印技术的主要目的
利用载体数据的冗余特性，在数字内容中嵌入特定信息，实现对该数字内容的标识和追踪。
数字水印技术的基本流程如图所示。根据不同的应用场景，水印可以包含多种信息，例如版权信息、版本信息、作者信息、所有者信息、发行人信息等。这种信息嵌入是隐蔽的，对原始数据产生微弱但有效的影响，以确保不干扰人类感知和不影响数字内容的正常应用。传统数字水印的保护对象主要包括文本、图像和视频等多媒体数据。本节还分类介绍了多媒体水印的经典算法。
本文第三节详细介绍了AIGC数字水印技术
这些技术分为模型确权水印、生成内容水印和样本保护水印三大类。模型确权水印致力于保护专有大模型，可进一步细分为白盒水印和黑盒水印，这两种水印方法针对不同的保护需求和应用环境。生成内容水印的目的是追踪版权并预防人工智能生成内容的潜在危害，主要包括AIGC内生水印和AIGC外置水印。样本保护水印则专注于确保AIGC模型训练样本的可追溯性和安全性，具体方法包括验证水印和扰动水印。这些水印技术是解决内容安全挑战和维护模型训练者权益的关键手段，为构建一个更安全、可信的人工智能生成内容环境提供了坚实的支持。
本文第四节探讨了无水印取证溯源技术
该技术分为无水印取证和无水印溯源两个部分。无水印取证专注于判断当前内容的真实性，即辨别内容是由模型生成还是人类创造。无水印溯源则旨在解决生成内容的归属问题，即确定哪个模型产生了特定的内容。无水印取证可以视作无水印溯源的前置步骤。
无水印图像取证示意图
无水印溯源示意图
未来研究方向
未来的研究应继续深入探索这些领域，并关注以下几个可能的发展方向：
**1.模型所有权的保护与溯源：**随着AIGC技术的快速发展，为大型模型构建适用的所有权保护与溯源算法显得尤为重要。未来的研究需要聚焦于这些算法的高效实施，并确保它们在法律和伦理范畴内提供对模型所有权的坚实和明确保护。
**2.版权溯源算法的开发：**开发高效的版权溯源算法至关重要，特别是在内容经过多次编辑或转换的情况下，仍需能够准确追溯到原创作者和内容来源。
**3.跨平台版权合作机制：**建议在全球范围内建立跨平台的版权合作机制，统一版权保护标准，促进国际间的知识产权保护合作。
**4.法律法规与技术研究的同步：**随着技术的不断进步，法律法规也需与时俱进，特别是为AIGC技术带来的版权问题提供法律上的明确指引和保障。
论文全文下载方式
1 识别下方二维码；2 点击文末“阅读原文”。
来源：《网络空间安全科学学报》2024年第1期
《网络空间安全科学学报》由中国航天科技集团有限公司主管、 中国航天系统科学与工程研究院主办，双月刊，国内外公开发行（CN 10-1901/TP，ISSN 2097-3136）。办刊宗旨为“搭建网络空间安全领域学术研究交流平台，传播学术思想与理论，展示科学研究、创新技术与应用成果，助力网络空间安全学科建设，为网络强国建设提供坚实支撑与服务”。
电话：010-89061756/ 89061778
