前沿 | AI诈骗治理：困境与对策

 扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 中国人民公安大学犯罪学学院博士研究生 周益；中国人民公安大学马克思主义学院教授、博导 任士英

进入智能化时代以来，AI（人工智能）技术在现代社会的研究与应用已迈进新的发展阶段，深刻塑造了人类的生产生活方式，对经济社会发展、民生改善等方面产生了重大影响。但在社会安全方面，AI技术也带来了新的诈骗犯罪隐患，AI诈骗已成为影响社会安全稳定、制约人工智能健康发展的关键因素。随着AI技术的普及，诸如换脸、拟声、对话、深度合成等技术持续涌现，部分诈骗犯罪分子以此为工具，开展电信网络诈骗，对社会秩序造成不良影响。

AI诈骗的特点

AI诈骗是通过对AI技术的非法应用，如肖像伪造、声音模拟、诈骗脚本生成等形式，来达到侵害他人利益的犯罪目的。作为AI时代电信网络诈骗的新形态，AI诈骗体现出如下特点：

**首先，诈骗产业链环环相扣，溯源难。**当前AI技术突飞猛进，利用AI软件，仅仅通过对短视频中零散的人声进行识别与提炼，便能对发声者的性别、年龄、地域完成智能化分析，并能从声音数据库中精准匹配相似度较高的声音预测模式，而后通过重构音质内容来模仿出发声者声音。在这类AI诈骗中，诈骗分子通常以分工合作的形式，分别从技术支持、设备管理、算法预测、受众筛选、欺诈实施等环节来逐步实施犯罪，由此形成的诈骗产业链给诈骗治理工作带来较大难度。很多时候虽然侦查到某一环节的犯罪要素，但往往难以追溯到真正的组织策划者。

**其次，超越时空的流动性。**AI诈骗犯罪行为是通过线上操作实施，脱离了时间、地点的制约，由此会形成一种流动式诈骗链条。犯罪分子会在任意时间、地点内，同时面向不同的联系人实施诈骗，并在诈骗成功后第一时间将诈骗资金转移至海外。

**最后，立体化实行诈骗，社会危害性大。**较之传统电信网络诈骗手段，AI诈骗在维度上呈现出鲜明的立体化特征，即以“点—线—网”的结构实行诈骗犯罪，无需再通过线性的直接接触来达到诈骗目的，而是利用网络虚假身份信息通过立体化的远程操控、实时指挥、多层次分工等来开展诈骗。这种立体化特征使得诈骗行为的社会危害性加剧、辐射面更广，治理工作所面临的挑战也随之加大。

AI诈骗治理面临的现实困境

AI诈骗治理法律法规滞后。法律法规是AI诈骗治理的硬性依据，但目前相关领域的法律法规建设仍存在滞后性问题，不利于为各项治理工作的有序开展提供支撑。**一是个人隐私和数据安全立法工作有待健全。**结合AI诈骗流程的运行逻辑进行分析，AI诈骗的实施前提在于对个人隐私信息的大范围收集，这也是公众利益受到侵害的第一阶段。当大量包含个人社会关系、家庭关系、财务数据、人脸、声音等信息的数据资料被诈骗分子非法获取，便意味着诈骗分子可利用的诈骗条件初步达成。当前《中华人民共和国数据安全法》等文件在数据安全维护等方面发挥了一定作用，同时在技术标准、信息保护范围、可行举措等方面还有待进一步完善。

**二是对网络黑灰产业认定不足。**AI诈骗链条往往与网络黑灰产业联系紧密，从它们的合作形式上看，AI诈骗体系与网络黑灰产业体系呈现出相互独立的特征，黑灰产业通过提供服务的形式与AI诈骗人员进行合作，相关人员也常以不知情、不知法等说法来试图规避法律责任，这也使得治理工作需要面临相关犯罪行为的具体界定问题，而只有实现明确界定，才有利于法律责任的精准追究。

**三是现行人工智能服务管理法律约束力不足。**目前，《中华人民共和国反电信网络诈骗法》明确规定了互联网服务提供者、电信业务经营者等主体在电信诈骗防范方面具有相应的法律责任。2023年颁布施行的《生成式人工服务管理暂行办法》等文件也被应用于这方面的实际管理工作中。总体来看，相关法律及文件，规制范围较为有限。

**AI诈骗治理缺乏行业合力。**各个行业数据泄露的情况仍然存在，即便一些用于保护用户数据的基础性制度开始实行，但部分企业为追求短期利益，通过贩卖用户信息等形式获利。与此同时，金融机构部分从业人员在利益驱使下，违反监管制度，对外转卖客户信息用以非法获利。

**AI诈骗治理技术要求较高。**AI诈骗是以高新技术为支撑开展的犯罪行为，会给相关治理工作带来一定困难，尤其要求工作人员需要具备较高的技术水平和专业素养。一是技术应对不足。许多人工智能技术都会以开源方式进行对外公布，AI诈骗分子通过互联网获取源代码，然后进行非法修改后，就能改造成用于实施诈骗的算法。二是侦查破案存在难度。AI诈骗分子依托先进软硬件技术隐匿于网络背后，来向目标诈骗对象发送不同形式的转账指令，而由于犯罪分子在身份伪装上具有严谨性，在脚本设计上注入大量欺诈性情感要素，这就使得目标诈骗对象对其建立了深厚信任，甚至主动为其阻碍公安机关的取证与执法，最终会由于证据链不完善而导致侦查破案难度加大。三是电子证据调取困难。AI诈骗的发生场域集中于信息空间，所产生的电子数据容易被遮掩、覆盖，因而难以从技术层面进行取证。四是认定处理难度较大。AI智能技术虽被诈骗分子大量运用于伪造，但要从治理角度有针对性地开发仿冒识别技术，则面临着更高难度，而针对诈骗分子伪造的虚假视频、音频，也往往需要耗费大量人力、物力，且内容的真伪也难以在短时间内进行识别，仍面临不少技术难关。

AI诈骗治理困境的破解路径

加强专门立法，筑牢法律红线。需要不断健全完善与AI诈骗治理相关的法律法规。一方面，健全个人信息法律保护体系。分析AI诈骗的特点可知，犯罪嫌疑人会先依托互联网技术收集公民的个人隐私信息，为有效预防AI诈骗案件的出现，需从源头上进行治理，完善法律法规以更好地保护公民个人信息。从目前的实际情况来看，相关部门已相继出台了《个人信息保护法》《网络安全法》《数据安全法》等法律，但在个人隐私信息保护上缺乏系统性。建议以《个人信息保护法》为基础，细化公民个人信息类型并分别采取保护举措，明确界定侵犯个人信息的各种行为。特别是要关注如何有效保护公民个体的生物信息，这主要包括肖像信息和声音信息，应加强对此类信息的立法。在实践过程中，针对可以收集公民个人生物信息的各类主体，在法律法规文件中细化其具体责任。

另一方面，完善人工智能领域法律体系。应加强对AI等人工智能技术运用的立法，2023年国家互联网信息办公室联同教育部、公安部以及国家发展和改革委员会等部门出台了第一个规范和管理人工智能技术使用的法律性文件《生成式人工智能服务管理暂行办法》，之后又将《人工智能法》纳入了《国务院2023年度立法工作计划》中，这标志着我国人工智能立法已进入到全新发展阶段。当前，应尽快推进《人工智能法》的制定与出台，在《人工智能法》中应健全各类人工智能技术使用的伦理规范，进一步明确、细化互联网服务提供者、电信业务经营者、企业等主体在AI技术开发和运用过程中的法律责任与义务。

**坚持打防并举，强调协同联动。**针对现阶段面临的AI诈骗治理困境，既要结合现实情况给予其严厉打击，更要从源头上进行预防，构建多元主体共同参与的协同联动治理机制。

**首先，打造AI诈骗防御体系。**其一，搭建事前预警平台。各行业责任主体之间应协同构建反诈骗预警平台，阻碍AI诈骗信息传递；其二，搭建智能劝阻平台。对已经接到诈骗电话的用户给出预警，利用智能化手段阻断诈骗公司对其再次拨打电话。此平台可利用大数据技术将各种类型的行业术语和精准话术纳入进来，构建各种形式的AI诈骗劝阻场景，以实现对潜在被诈骗用户的精准劝阻；其三，搭建专人客服呼叫坐席。对预警数量规模较大的行政村和街道配置专人反诈呼叫坐席，与公安等相关部门联合办公，依托反诈预警平台和智能劝阻平台开展反诈电话劝阻活动。

**其次，加大AI诈骗打击力度。**当前，AI诈骗治理面临电子证据调取流程繁琐、认证处理难度大和案件侦破难溯源等问题，相关责任部门应加大执法力度，定期开展执法行动，对通过非法手段提取公民肖像和获得公民隐私信息从事犯罪的人员要给予严厉打击。

**最后，协同联动形成全新AI技术生态。**一是不同部门之间共同开展多种形式的诈骗治理活动，遵循“事前预防、事中劝阻、事后治理”的原则，有效解决治理问题。二是强化内部监管，尤其是互联网和电信企业等，在升级更新技术的同时要注重健全内部的伦理规范，向其他行业输出AI技术时要严格遵守技术运用的法律红线。三是各金融机构要主动承担相应的风险防控责任，构建健全的内部控制制度，打造全新AI技术生态，做好跨领域和跨行业的交流合作，针对可能出现的潜在诈骗风险提前制定防范策略。

**深化技术运用，提升治理水平。**随着各类治理技术的不断更新和完善，实践中应深刻认识到技术运用的利与弊，善用各种技术以提升AI诈骗治理效果。**首先，运用技术切断“数据喂养”。**事前要进行精准的预警防范，借助现代化技术切断数据供给和喂养，即使不法分子已经掌握了公民个人信息，但相关部门可以利用技术手段让公民登录不上诈骗网站，下载不了诈骗软件，无法向诈骗账户转账；构建AI诈骗风险预警防范模型，扩大反诈电话监测覆盖范围，促使手机厂商升级指纹识别和人脸识别技术，以协助用户准确识别AI拟声和AI换脸等诈骗行为。

**其次，运用技术提升治理能力。**借助数字技术拓展AI诈骗风险防控范围，从海量的数据信息中挖掘出潜在的诈骗风险信息，来防范AI诈骗犯罪案件的发生；以大数据技术为基础模拟出各种AI诈骗案件的犯罪情景，整个运行过程包括五大环节，分别为数据收集、数据分析、犯罪情景模拟、防范策略制定和行使响应；实现不同平台、行业和领域的数据互通与资源共享，及时收集各方证据，精准打击各类AI诈骗案件；针对能够逼真模拟头像、声音等重要生物信息的AI诈骗科技，研发出对应的能够辨别人像、声音真伪的AI诈骗治理技术，全面防范AI诈骗案件的发生。

**最后，加大技术侦查人员培养。**侦查人员的业务能力和综合素养对预防AI诈骗犯罪和提升诈骗案件办案效率有着重要影响。当前，犯罪分子借助AI技术行使的诈骗手段变得更为多样化，侦查人员须不断完善自身的知识储备，提升自身在侦查方面的专业能力，通过大力培养侦查AI诈骗的专业技术型人才，全面加强对AI诈骗犯罪的事前预防力度，织紧织密织牢预防AI诈骗犯罪的防护网。【注：本文系中国人民公安大学双一流创新研究专项（项目编号：2023SYL05）阶段性成果】

（来源：人民论坛网）

分享网络安全知识 强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图 了解详情