法治 | 加强算法风险侵权法律规制

 扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 福建省习近平新时代中国特色社会主义思想研究中心特约研究员、福建师范大学法学院教授 杨垠红

党的二十大报告指出，“加快发展数字经济，促进数字经济和实体经济深度融合”。以海量数据为基础的算法与具体应用场景的深度融合，给数字经济高质量发展注入强大动能。算法为数字经济发展赋能的同时，蕴含的技术风险也可能给个人与社会带来负面影响。若算法决策因数据偏见、设计缺陷、黑箱问题等造成侵害，其高度专业性、不透明性及计算的庞杂性增大了损失认定与责任追究的难度，给算法责任承担判定带来挑战。

目前，国内外研究主要集中于算法决策的事前规制领域，而就算法技术对数字经济带来的冲击、算法风险对传统侵权理论的挑战、算法技术与法律规则的融合发展，研究则较为薄弱。在数字经济时代背景下，有必要围绕算法风险侵权责任，从理论层面分析算法使用主体的注意义务、算法风险侵权责任的归责原则、构成要件、责任承担等侵权法问题，并从制度层面构建符合数字经济发展规律的算法风险侵权责任承担规则，助推数字经济高质量发展。

算法风险侵权的类型界分

不同于物理层面的权利或法益侵害，算法风险侵权有两种类型，即基于风险或者过程的抽象性侵害和作为结果的具体侵害。一方面，基于风险或者过程的抽象性侵害属于算法妨碍。算法妨碍体现为声誉侵害、算法歧视、算法规划、“算法黑箱”、算法操纵等。算法妨碍所造成的损失很难用“差额说”予以认定。另一方面，作为结果的具体损害可能是由数据偏见、设计缺陷、编码错误或算法滥用等因素导致的。算法损害的原因行为多种多样，也难以用传统侵权理论予以认定。因此，针对数据时代的算法风险侵权，应根据实际损害是否发生将其分为算法妨碍与算法损害两类，并根据其类型界分，构建不同的侵权责任规则。同时，也要抽象出通用于两种侵权类型的一般原则，从而实现算法风险侵权责任规范的体系化。

算法使用主体的注意义务

科技进步导致侵权成本与预防成本发生重大改变，因此侵权法需要重新配置各方权利义务关系。算法使用主体负有的义务范围（包括算法公开、披露与说明义务、审慎审查义务、定期评估与维护更新义务等）不应过窄也不应无限延伸。立法者应为算法使用主体义务范围划定恰当的边界，合理设计算法使用主体是否已履行义务的判定方法，以适应数字时代社会效率与安全的需求。

算法公开、披露与说明义务要求算法的使用主体在一定程度上公开其算法的工作原理和逻辑，并对其进行说明。这不意味着需要公开算法的所有技术细节或商业秘密，或是公开算法的源代码，只需公开或明确、披露算法决策的基本原则、目标及目前已知的所有可能影响即可。这有助于用户更好地理解算法对其生活可能产生的具体影响，从而做出更为明智的选择，同时也能防止“算法黑箱”造成潜在的伤害。

审慎审查义务要求算法使用主体在部署算法前后，对算法的设计、数据输入和输出进行细致的检查，确保算法不会无意中加剧歧视或偏见，确保数据的准确性、代表性以及来源合法性。其审查内容主要包括是否存在算法歧视、算法使用的数据来源是否合法、是否侵犯个人信息或隐私等。审慎审查义务有助于相关主体及早发现并纠正算法中可能存在的问题，避免对社会造成不良影响。

定期评估与维护更新义务强调算法使用主体需要定期重新评估其算法的性能和影响，确保算法符合最新的法律法规、伦理标准和社会期望。这包括评估算法是否存在潜在的歧视行为、是否有新的偏见出现，以及算法的准确性和效率是否得到改进。当算法操作产生了意料之外的负面影响或错误时，算法使用主体应采取必要应对和纠正措施，包括但不限于撤回有问题的算法、修正导致问题的错误、向受影响的个人或群体提供补救措施等。同时，算法使用主体应持续监督算法的表现和影响，根据社会变化、技术进步或法律法规的更新及时调整和更新算法。

算法风险的侵权责任构成

对于算法风险侵权的责任构成是否仍需要严格遵循传统归责原则和四要件判断，值得进一步研究。就归责原则而言，它是责任构成的前提，包括过错责任原则和无过错责任原则。算法风险侵权作为特殊侵权类型，仍采用过错责任原则，无疑会加重受害人的举证责任。算法风险侵权作为新兴侵权类型，需要区分不同应用场景而适用不同归责原则。就因果关系而言，传统直接因果关系说、相当因果关系说和近因说等在算法风险侵权中都显得较为无力。算法风险侵权的庞杂主体以及算法技术存在的高度专业性、不透明性等因素，给因果关系的判定带来阻力。因此，对于算法风险侵权认定，更宜在因果关系上有所缓和，综合运用多种因果关系判断方法。就损失而言，传统的差额损害说在算法风险侵权中难以适用，尤其是面对算法所造成的风险损害、声誉下降时。应寻找算法风险侵权责任“差额说”的替代方案，达到填补损失和惩戒警示的制度目的。因此，在损失认定上，宜缓和精神损害赔偿上的“严重”的认定标准，补偿风险损害；在物质赔偿上，应该综合适用“差额补偿说”和“综合获益说”。就侵权行为而言，传统侵权行为多为直接侵权，侵权行为及其实施者易识别。但算法风险侵权的行为主体更加多元，包括算法技术的开发者、利用者、实施者以及受益者等，难以精准确定侵权行为的直接行为人。大多数情形下，算法风险侵权的责任主体并非单一主体，其责任承担形式为共同责任。

算法风险的侵权责任承担

算法风险的侵权责任承担涉及责任主体、责任形态以及责任方式。就责任主体而言，由于实施算法风险侵权行为主体多元多样且具有隐蔽性、关联性，在认定责任承担主体时需要准确地判定实际实施侵权的主体以及各主体之间的关系。在责任形态认定上，可能涉及连带责任、按份责任、比例责任、补充责任、单向连带责任、部分连带责任等多种责任形态，不同的算法风险侵权可能采用一种或几种责任形态，仅采用单一责任形态的情形较少。就责任方式而言，算法风险侵权损失存在数额认定困难，除了传统的赔偿损失外，算法风险侵权可能造成风险性损害。所谓风险性损害，是指损害后果尚未发生，信息只有被非法使用的未来风险。它具有无形性、潜伏性与不确定性等特征，主要包括外部风险性损害——预防性支出和内部风险性损害——焦虑恐惧等精神损害。在算法风险侵权情形下，宜有条件承认风险性损害，给予有限的赔偿。应当明确预防性支出属于财产损害，确定预防性支出合理赔偿范围。可以运用动态系统论和场景论，促进“严重性”要件认定的动态化、场景化，动态划定严重精神损害评价要素。同时，还须关注停止侵害、消除影响、恢复名誉、赔礼道歉、不作为禁令等非金钱补偿方式的运用。

完善算法风险治理规则

要加强算法风险侵权的法律规制，必须体系性地完善算法风险治理规则，具体须做到以下三点。**其一，推动“数字经济”与“算法进步”融合发展。**以算法为代表的数字技术，促进了数字经济发展，但也给经济发展带来了一些挑战，如结构性失业、安全隐患、社会伦理等。算法风险侵权责任研究并不是为了抑制数字经济发展，而是为了在安全的框架下保障数字经济的有序健康、高质量发展。**其二，协调“算法风险”与“算法便利”内在结构。**因存在“算法黑箱”等问题，算法风险无法完全避免。侵权责任规则的构建是通过事后的惩戒机制，抑制技术掌握者利用技术优势放任算法风险发生的行为，从而提高算法便利。**其三，统合“传统责任”与“新兴责任”时代发展。**传统的侵权责任认定已经无法适应算法等数字技术的发展。算法风险侵权可能并没有造成物质损害，仅仅造成声誉风险或者社会评价降低，故应该对传统责任认定、承担等规则进行统合与校正，以适应信息时代的法益保障需求。【本文系国家社科基金项目“算法风险侵权责任研究”（23BFX030）阶段性成果】

（来源：中国社会科学网）

分享网络安全知识 强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图 了解详情