技术、法律与社会的交汇：外滩大会检察见解论坛会议综述
2023年“外滩大会—检察分论坛”会议综述
当前，世界之变、时代之变、历史之变正以前所未有的方式展开，数字技术成为重组全球要素资源、重塑全球经济结构、重构全球竞争格局的关键力量。当技术、法律与社会交汇，如何在维持“秩序之道”的同时，谋求“发展之道”，需凝聚各方智慧，共谋发展良策。
**2023年9月6日，由上海市检察院和蚂蚁集团主办、上海市宝山区检察院协办的2023年“外滩大会—检察分论坛”在上海举办。**来自法律实务界、高校科研机构、信息网络管理协会和企业的代表就“数字时代的司法治理”这一主题，围绕“人工智能技术的应用情况和发展趋势”“人工智能发展带来的风险和挑战”“人类与人工智能如何共生发展”等问题展开了深入探讨。
**1
数字时代司法治理的检察实践
**
在数字化浪潮下，传统犯罪与人工智能、产业技术、网络空间叠加，非传统安全风险不断升级，特别是数据安全、个人信息保护形势严峻，企业正常生产经营秩序和群众生活安宁受到威胁，甚至可能引发公共安全、国家安全问题，给执法司法带来新的挑战。党的二十大报告强调，加快建设网络强国、数字中国。面对时代赋予的新课题，检察机关聚焦数字经济发展，因势而谋、应势而动，努力为护航网络强国建设、数字经济发展贡献检察力量。
据●最高人民检察院第四检察厅厅长张晓津介绍，检察机关持续加强数字时代网络法治工作，在网络强国、数字中国建设总规划中谋划和推进网络法治建设，最高检出台《关于加强新时代检察机关网络法治工作的意见》，充分发挥刑事、民事、行政、公益诉讼检察职能，服务促进数字经济健康发展；积极助力营造法治化数字营商环境，依法平等保护数字经济各类市场主体合法权益，稳妥推进涉案互联网企业合规，推动开展数据合规建设，加强数字版权、数字作品等网络知识产权司法保护，助力数字技术成果的创新发展和转化；加强数字时代公共利益保护，推动在个人信息保护法、反电信网络诈骗法中写入公益诉讼条款，向中央有关部门制发“六号检察建议”，围绕网络犯罪惩治、个人信息保护提出建议，积极参与构建网络空间综合治理体系。
在加强数字时代司法治理方面，上海市检察机关有很多探索和创新。据●上海市检察院第四检察部主任顾晓军介绍，近年来，上海市检察机关积极贯彻落实最高检工作要求，通过依法保护和规范数字产业、积极探索推进互联网企业全流程合规建设、致力提升数字时代法治化治理水平，充分发挥检察职能作用，为上海国际数字之都建设提供检察服务。2022年上海市检察机关受理审查逮捕、审查起诉网络犯罪案件共计6313件10803人，其中电信网络诈骗及其上下游关联犯罪仍占比居高，但增幅趋于平缓；互联网知识产权犯罪案件占比高，涉众型互联网经济犯罪案件略有下降；诉前羁押率大幅下降、不诉率显著提升；法律监督和追赃挽损成效明显。
2
人工智能发展的****趋势
当前，人工智能已广泛应用并融入人们生产生活的方方面面，围绕人工智能技术的应用情况和发展趋势，●科大讯飞股份有限公司北京研究院执行院长伍大勇认为，大模型技术打开了通用人工智能的大门，从2022年11月ChatGPT推出所带来的影响出发，大模型技术在人工智能领域的产业应用趋势主要包括四个方面：第一，改变信息获取方式，大模型技术可以理解用户需求并提供相关内容，大幅提高信息获取效率。第二，革新内容生产模式，高效创作高质量内容。大模型技术可快速自动生成内容，改变内容创作的生产模式。第三，通过对话自然交互方式完成各类任务，提升用户体验。第四，提高工作效率并推动创新。大模型技术逐渐赋能各个行业，如在教育领域，进行个性化学习推荐、智能辅导等；在医疗健康领域，进行疾病诊断、推荐治疗方案等；在制造业领域，进行生产过程优化、设备维护预测等。
但是，大模型技术被涉网络违法犯罪利用后，给办案带来难题。●上海市公安局网安总队三支队副支队长唐云佳结合司法实务，提出人工智能、大数据模型被涉网络违法犯罪利用后，传统共识受到挑战，如涉网络诈骗、淫秽色情犯罪中换脸、换头、合成虚假视频等手法导致“眼见不一定为实，耳听不一定为真”；涉网络犯罪链条中人工智能机器人参与其中，帮助信息网络犯罪或成为黑客工具；数据安全面临威胁，等等。
3
人工智能发展面临的发展与挑战
数字时代背景下机遇和挑战并存。●蚂蚁集团大安全机器智能部副总经理祝慧佳围绕大模型技术发展这一议题，谈及大模型在改变人们生活、在产业界发挥经济和社会效益的同时，在事实问题、伦理问题、知识产权、数据安全、恶意应用、内容安全等方面均面临风险和挑战。如在事实方面，编造的事实、错误的信息充斥各内容平台，特别是在医疗、法律等领域，错误的回答造成的伤害显而易见；在伦理方面，由于大模型的训练数据是从现实世界中采集的，如果其中某些数据存在偏见或歧视，大模型也会学习这些偏见和歧视，从而通过输出的内容反映出来，这可能会导致不公平或歧视性结果和观点的出现；在恶意应用方面，大模型输出的内容可能会被恶意攻击者利用，比如，用来生成虚假信息、仿冒身份欺诈（合成人像与声音）、进行网络钓鱼等活动，从而给个人和组织带来安全威胁**。**●中国信息通信院云计算与大数据研究所大数据与区块链部副主任闫树围绕隐私计算技术这一问题，明确提出隐私计算是解决数据流通领域“可用不可见”问题及保障数据流动过程安全的一系列技术，广泛应用于诸多领域；但隐私计算本身在数据流通领域也面临合规性困局、使用成本高、应用场景有待扩展等多方面挑战。
就技术发展给执法司法活动带来的风险，●公安部第三研究所网络安全法律中心主任黄道丽提出，人工智能技术在应用中面临诸多风险：第一，由于人工智能技术本身的特性或存在的缺陷，信息的真实性可能存疑。第二，执法司法数据库的互联互通、共建共享增加了数据失控的可能性，技术工作外包增加了数据泄露和被非法利用的风险。第三，公安机关执法应用人工智能技术也会带来一定的安全风险，平衡好国家安全、公共利益与个人权利保护至关重要。
就技术发展给法律适用带来的挑战，●中国海洋大学法学院副院长、教授李晟提出，大语言模型技术在与法律、司法的结合中，通过“学习—输出—学习”的不断循环，让法律的普遍性得以强化，同时也给法律发展带来挑战。●上海交通大学凯原法学院教授蒋红珍从数据安全的角度出发，围绕个人隐私和数据秩序，阐释了人工智能技术的应用给数据隐私和安全带来的挑战。数据的隐私保护最核心的机制是“知情—同意”规则，围绕于此，形成公益排除以及最小必要原则。生成式人工智能技术的高度自动化和复杂性特点，导致其很难在自动收录用户个人信息的同时，让信息主体充分全面了解个人信息的处理过程和结果，容易对“知情—同意”规则的构架产生冲击，最小必要原则也可能会被架空。
4
人类与人工智能的共生发展
对大数据时代人工智能带来的风险和挑战，如何实现技术、法律与社会的共生发展？与会人员认为，需要树立新的理念、建立新的机制、采取新的举措。在技术层面，●闫树认为，随着数据法律法规的出台生效，技术与合规出现交叉碰撞，可通过技术融合、异构平台的互联互通、基础设施建设等方面的努力，促进隐私计算行业的发展，在满足合规要求的前提下充分挖掘数据价值，推动隐私计算技术发展。
●蒋红珍从个人权利保障角度出发，提出人类与人工智能健康发展、共生发展，应平衡人工智能技术发展和个人权利保护之间的矛盾，需要立法和相关配套机制为二者划定必要界限；需要人工智能技术发展公司强化社会责任意识和守法合规意识，积极采取自我规制措施，加强对个人隐私信息的保护；需要监管部门在对个人信息保护提出合规要求时，既坚持严格执法，也保持审慎克制。●黄道丽则从大模型发展的安全保障角度出发，提出人工智能的治理需要“软法”与“硬法”有机结合，关注价值观、治理体系、治理对象以及效果评价；正确认识并协调“破坏性创新”与“试验性监管”之间的关系；对人工智能的监管应该是一个可持续优化的体系，有一个能够快速吸收、修复、完善的路径。●最高检第四检察厅检察官赵玮从法律层面提出数字时代的司法治理需要重点处理好三大关系：一是安全和发展的关系。要坚持安全底线，在安全的基础上统筹发展。二是人工和智能的关系。一方面，在大模型的构建中，需要把人的高质量需求和理性分析能力渗透融入其中，从而使大数据模型真正成为理性的模型；另一方面，通过大数据模型、人工智能发展，推动和促进人类发展，促进智能时代的人类更具创新能力、规则意识和协作精神。三是当下和未来的关系。人工智能既研究当代问题，也研究跨代问题，需要法律提供更多规范指引。
在监管层面，●唐云佳认为，随着人工智能的迅速发展，法律监管需要快速适应和调整，以平衡技术创新与法律监管。●中共上海市委网络安全和信息化委员会办公室网络管理处处长蒋科从网络信息管理的角度，结合网络监管实际，提出网络管理必须坚持两个原则：一是分类监管原则，二是包容审慎原则，以促进大模型规范发展。
5
数字时代司法治理中检察机关的职责使命
检察机关作为国家法律监督机关，应准确把握发展和安全、打击和治理的关系，促进数字经济规范健康发展。下一步，检察机关将坚持以习近平新时代中国特色社会主义思想特别是习近平总书记关于网络强国的重要思想为指导，与各方携手共寻数字时代的“治理之道”，以高质量发展服务城市数字化转型和城市高质量发展，以检察工作现代化推进政法工作现代化、服务中国式现代化。●张晓津提出三个方面的要求：一是注重内部一体履职，提升司法治理能力水平。树牢各级检察机关“一盘棋”思想，建立上下一体、内部协同的检察监督模式，全面协调充分履行刑事、民事、行政、公益诉讼“四大检察”职能，健全跨区域检察协作机制，形成监督治理合力。二是注重外部协作联动，参与构建多元共治格局。规范数字经济发展，需要跨部门、跨层级、跨区域协同共治。检察机关将与有关行政部门、司法机关密切配合，推动完善与数字经济发展相适应的体制机制和法律法规体系。同时，充分引导平台、企业、行业参与，推动构建法治保障、多元参与的数字经济治理体系。三是深入实施数字检察战略，以大数据赋能检察监督。检察机关应主动顺应新形势新变化，大力推进数字检察工作，探索开辟法律监督能力现代化的新领域新赛道，以数字赋能监督，以监督促进数字时代的司法治理。
●上海市检察院副检察长龚培华表示，上海市检察机关将进一步从三个方面贯彻落实最高检要求：一是深入实施数字检察战略，以数字检察赋能司法治理，提升上海检察“服务办案、服务公众、服务决策”的能级；二是加强内外协作联动，提升司法治理能力水平，推动构建数字时代多元共治格局；三是提升司法供给保障水平，服务数字经济高质量发展，全面提升检察服务数字经济发展能力，护航数字经济行稳致远。围绕“数字时代的司法治理”这一主题，共研数字经济新形势、共商高质量发展路径、共寻司法治理良策，恰逢其时。检察机关将与各界继续携手努力，立足检察职能，踔励奋发、勇毅前行，全方位构建适应数字时代的司法治理机制，继续推进数字社会司法治理能力现代化，为数字中国建设和数字文明发展提供有力保障。
●原文刊于《人民检察》2023年第18期 作者高秀梅 编辑姜梦
END
