智库分析：生成式AI是如何影响大选安全的？
2024年是全球重要的全球大选年，总人口占世界人口的41%、GDP占全球GDP的42%的国家在2024年进行大选。网络生态将在塑造这些竞选活动的方面发挥重要作用，生成式AI为代表的新的技术使本已竞争激烈的信息空间更加紧张。
本文将对1月布鲁金斯学会发表文章摘译与分析，以斯洛伐克和阿根廷大选为例，旨在探讨生成式AI如何对大选产生影响。
一、摘要
近十年来，生成式人工智能的性能一直在稳步提高。在2022年11月ChatGPT发布仅仅两个月后，用户数量就超过了1亿。
与此同时，人们开始担忧生成式AI可能会通过加速虚假信息的生产，在2024大选年制造一场“虚假信息噩梦”。然而，在这股热潮过去一年后，生成式人工智能尚未像最初预期的那样改变信息格局。即使规模较小，完全生成或经过重大修改的内容仍然可以被用来以各种方式破坏民主话语和选举的公正性。
具体来说，与选举相关的生成内容可以：
-
1.在最后关头试图阻止选民行使投票权，或制造一个事件对候选人进行难以揭穿的刻画。
-
2.深度伪造虚假信息，尤其是伪造可能影响政治竞选的真实丑闻。
-
3.降低虚假信息行动的成本，破坏政府的反应能力，左右公众舆论，加剧分裂，分散或欺骗选民，破坏对选举过程的信任。
国家在考虑如何应对时，应评估各种干预措施，针对选举特定问题的新立法或更新已有立法，并教导公民如何审查生成内容的选民教育工作。科技公司也应发挥核心作用，围绕内容来源和水印实施不完善但重要的技术解决方案，并投资于新的检测工具，它们还可以促进公民在获取网络信息的平台之间共享知识。
总体而言，这些干预措施不可能完全解决生成式人工智能对信息完整性构成的挑战。但在历史性的大选年，这些措施都是积极的应对措施，可以让看似棘手的挑战变得更容易应对。
二、AI生成内容如何影响选举
尽管AI生成内容在整个有争议的信息空间中仍然只占一小部分，但它的使用可能会越来越普遍，而且已经开始破坏围绕选举的民主讨论。最近的两个案例说明，在选举的大背景下，即使是少量的生成内容也会对信息空间造成独特的破坏。
0****1
斯洛伐克大选前的深度伪造
2023年9月，基于生成式人工智能的政治干预破坏了斯洛伐克的议会选举。在选民投票前两天，一段带有生成内容标记的音频在社交媒体上广泛传播，该选举影响到斯洛伐克对乌克兰的军事援助和对北约的支持。据悉，这段音频中出现了亲北约的斯洛伐克进步党领导人Michal Šimečka和一名记者的声音，他们在讨论如何操纵选举并从该国少数民族罗姆人手中购买选票。尽管这段音频从一开始就显得可疑，但还是在社交媒体上被数千人分享，其中包括斯洛伐克反对党的一名前议员。
事实核查人员很快就对这段录音的真实性产生了怀疑，因为录音中存在声音不协调、用词不恰当、语序可疑等反常现象。然而，由于斯洛伐克大选前有48小时的暂停期，在此期间媒体和政界人士必须保持沉默，避免发布与大选有关的消息，这阻碍了更正信息的广泛传播。
生成的音频还利用了Meta媒体政策中的一个漏洞，Meta虽然会对伪造内容进行部分审核，但只明确针对完全伪造的视频而非音频内容。尽管事实核查人员最终能够在Meta平台上给帖文贴上标签，可生成的音频仍在内容审核方式千差万别的碎片化信息空间中广泛传播。
在斯洛伐克等国，媒体封锁限制了新闻界在选举前讨论与竞选相关的内容，因此这类最后时刻的丑闻尤其具有挑战性。媒体封锁通常持续24小时左右，但在某些国家可能长达三天。因此，这对揭穿病毒式传播的内容构成了明显的挑战。如果选举法没有改变，社交媒体公司必须明确规定并执行内容审核政策，尤其要注意解决操纵媒体政策中的漏洞。
02
阿根廷的“梅尔科尼门”事件
人工智能生成的内容在阿根廷 2023 年总统选举中也发挥了意想不到的作用。第一轮投票前几天，网上开始广泛流传丑闻录音。据称，这些录音中，时任总统候选人帕特里夏·布尔里奇的经济部长人选卡洛斯·梅尔科尼对女性恶语相向，并以政府职位换取性好处。
这一事件被称为 “梅尔科尼门”，事件发生后，布尔里奇和她的政党迅速为梅尔科尼辩护，称录音是伪造的，可能是用“声音人工智能”篡改或生成的。她还质疑音频片段的来源并攻击分享泄露音频的记者，指责他过去的行为不道德，并将篡改的音频作为支持现任者的抹黑活动的一部分。起初，梅尔科尼选择对音频泄露保持沉默。不过，在随后的采访中，他并没有明确否认录音的真实性。
这些音频片段是否真的是人工智能生成的深度伪造，还有待证实。不过，这一事件凸显出，即使是人工智能生成的潜在内容，也能以意想不到的方式塑造选举竞争的轮廓。
在未来，政客们将能够合理地将真实的丑闻斥之为捏造。这就是所谓的**“骗子红利”**，把真实的丑闻说成是”错误信息”会让选民更倾向于支持受牵连的政客。
因此，生成式人工智能可能会在事实上根本没有使用它的地方产生最有害的影响。因此，研究人员更有必要掌握必要的工具，以便更好地了解挑战的范围，从而避免助长炒作，缩减“骗子红利”找到肥沃的土壤。
三、总结
在政策制定者、科技公司和研究人员继续探索人工智能生成内容的恶意应用时，强调其对选举的潜在有利影响也很重要。
例如，人工智能工具可以帮助候选人用母语接触新选民，或协助将重要的竞选和选举相关信息翻译成其他语言，填补内容空白和数据空白，而虚假宣传正是在这些空白和空白中蓬勃发展的。鉴于生成式人工智能的生产力优势，这些工具还可以帮助资源不足的竞选活动保持竞争力。在应对与生成内容有关的挑战时，政策和方法的转变应侧重于这些产出的危害，而不是内容是否使用了生成式人工智能。
来源|Brookings官网
推荐阅读
文章来源：赛博研究院
点击下方卡片关注我们，
带你一起读懂网络安全 ↓
