前沿 | 欧盟《人工智能法案》生效 将完善监管规则

 扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

当地时间8月1日，欧盟《人工智能法案》正式生效。该法案是全球首部全面监管人工智能的法规，标志着欧盟在规范人工智能应用方面迈出重要一步。分析指出，许多国家和地区正在制定人工智能监管规则，欧盟新规则可能为后来者提供重要借鉴。不过，法案实施或将增加人工智能相关企业的合规成本。

欧盟迈出重要一步

欧盟介绍，制定《人工智能法案》的目的是，在维护民主、人权和法治的同时，推动普及值得信赖的人工智能。欧盟内部市场委员蒂埃里·布雷东评价该法案为“一个有效、适度且全球首创的人工智能框架”。

该法案规定，聊天机器人等人工智能系统必须明确告知用户他们在与机器互动，人工智能技术提供商必须确保合成的音频、视频、文本和图像内容能够被检测为人工智能生成的内容。此外，该法案规定，禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。

如果企业涉足“禁止”领域，则被处以3500万欧元或全球年销售总额7％的罚款，以二者之中的更高金额为准进行处罚。如果没有履行除“禁止”以外的其他风险分类中的义务，则根据业务规模等处以1500万欧元或最高不超过全球年销售总额3％的罚款。

据悉，欧盟《人工智能法案》相关规则将分阶段实施，某些规则将在该法律通过6个月后或12个月后生效，而大部分规则将于2026年8月2日开始生效。

来自意大利的欧盟议员布兰多·贝尼费伊表示，《人工智能法案》是“全世界第一部为实现安全的、以人类为中心的人工智能开发指明道路的法规”。

此前，欧洲行业组织和一些欧洲国家政府反对推出针对通用人工智能的全面规定，认为立法者的关注重点应该是这种技术的危险用途，而非支撑其用途的模型。欧洲议会议员们说，《人工智能法案》是欧盟近年来处理的游说最多的法案之一。

欧洲的议员们说，他们试图使该立法具有灵活性，以便它能够适应快速发展的技术。例如，该法案的一项内容说，欧盟委员会可以根据市场和技术发展，更新其对通用人工智能模型定义的技术要素。

欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案。去年12月，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议。

法案影响力或超出欧盟范围

分析指出，欧盟《人工智能法案》是全球首个全面的人工智能监管法案，显示了欧盟在技术监管领域的前瞻性和领导力。法案特别关注高风险的人工智能应用，如信用评分和员工监控等。法案的实施将为人工智能的监管提供一致的规则，其影响力将超出欧盟范围。

据悉，《人工智能法案》的核心目标是建立一个监管框架，负责任地利用人工智能的潜力，确保技术造福公共利益，同时保护个人权利。其中提到，“所有被认为对人们的安全、生计和权利构成明显威胁的人工智能系统都将被禁止。”

普盈律师事务所合伙人、人工智能专家法尔默表示，“我认为欧盟的《人工智能法案》很有可能成为世界的模板，这是全球监管人工智能竞赛的关键时刻。”以欧盟的《通用数据保护条例》为例，他解释道，在人工智能监管上，欧盟已经确定了全球的前进方向。

业内人士分析认为，法案生效会对跨国企业带来非常重大的影响。人工智能应用走向更加规范轨道的同时，合规意味着成本上升，该法案实施将显著增加人工智能相关企业的合规成本。

据早期预测，该法案可能导致欧盟在未来五年内经济损失超300亿欧元，并使人工智能领域的支出增加近17%的合规成本。鉴于严格的监管要求，人工智能价值链上的参与者需要投入更多资源。

值得注意的是，法案分阶段实施期间，也有不少模糊或需厘清的问题。可能存在争议的问题主要集中在定义和具体合规要求上，如高风险人工智能系统精确界限、基础模型和应用模型的区分等。如何有效评估和监控人工智能系统透明度和公平性也存在不确定性。

美欧加快人工智能监管合作

上个月，欧盟委员会、英国竞争与市场管理局、美国联邦贸易委员会和美国司法部签署联合声明，旨在通过公平公开的竞争释放人工智能技术所能提供的机遇，并制定了维护公平竞争和保护消费者的共同原则。

声明列举了多种竞争风险，其中包括关键资源的集中控制风险。此外，声明还列出了与人工智能相关的消费者风险，如人工智能可能会加剧损害消费者权益的欺骗和不公平行为。

声明说，公平交易、人工智能的互操作性以及企业和消费者在竞争中拥有的选择权是支持竞争、保护消费者和帮助企业创新与发展的关键原则，并且这些原则通常有助于促进竞争和推动创新。

目前，人工智能技术的发展已突破传统地域限制成为全球课题，美国知名咨询机构欧亚集团总裁布雷默也指出，人工智能技术是自由流动的，科学研究需要共享和开源。把握数字化、网络化、智能化机遇，离不开包容性全球合作，应坚持以共商促共享、以善治促善智，推动人工智能包容、普惠和可持续发展。

（来源：经济参考报）

分享网络安全知识 强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图 了解详情