2024西湖论剑・AI引领数字安全新浪潮专题会议成功举办

5月18日，2024西湖论剑·AI引领数字安全新浪潮专题会议成功召开。业界精英围绕AI+安全，共同探讨AI引领数字安全新质生产力的发展之道，解锁未来无限奥秘。

中国网络空间安全协会副理事长、中国网络空间安全协会人工智能安全治理专业委员会主任卢卫，浙江省杭州市科学技术协会党组成员、副主席王菊红，浙江移动信息技术与数据管理部总经理、中国移动集团首席专家王晓征，浙江移动信息安全部总经理王延长，杭州市科协学会管理部（科技创新部）部长余勇平，海亮集团轮值总裁何文天，安恒信息董事长范渊，上海市大数据中心基础设施部副部长靳玲，中国科学技术大学网络空间安全学院执行院长俞能海，天津大学信息与网络中心主任于瑞国，杭州市人工智能协会秘书长赵星伦，以及相关行业领导和企业专家出席论坛，教育部新工科联盟网络空间安全工委会主任委员、俄罗斯国家工程院外籍院士胡瑞敏主持论坛。

教育部新工科联盟网络空间安全工委会主任委员、俄罗斯国家工程院外籍院士胡瑞敏主持论坛

中国网络空间安全协会副理事长、中国网络空间安全协会人工智能安全治理专业委员会主任卢卫出席

AI引领，构建数字安全新质生产力

2023年以来，人工智能蓬勃发展，为数字安全领域带来了全新的生态环境和产业格局。我们在拥抱AI的同时，也不能不严防AI可能带来的数据泄露、深度伪造等风险。**以AI对AI，以AI管AI，**成为推动人工智能与网络安全技术的深度融合，构建数字安全新质生产力，为经济社会发展和国家安全提供有力保障的必然选择。

CCF计算机安全专业委员会常务副主任、公安部第一研究所副所长于锐在视频致辞中表示，人工智能的飞速发展以及AI技术的广泛应用对数字安全带来了全新的挑战与机遇，数据安全、算法安全、隐私保护等问题日益凸显。对于如何在享受技术红利的同时，构建更加坚固的数字安全屏障，实现传统网络与数据安全的革命性升级，打造新型的AI+网络和数据安全体系，**他提出四点建议：**一是加强协同创新，共建安全生态；二是开展技术革新，驱动安全升级；三是加大法规引领，保障健康发展；四是强化人才培养，强化安全根基。

CCF计算机安全专业委员会常务副主任、公安部第一研究所副所长于锐视频致辞

俞能海教授发表《生成式人工智能安全与新质数字资产》主题演讲时指出，人工智能向生成式跨越，全面提升理解能力，AIGC不断取得突破，多模态大模型快速发展，**人工智能安全的保障将成为人工智能可靠可控应用的重要基础。**为规避AIGC风险，不能单纯依赖智能算法，而是将人创造能力与AI的生成能力有效结合。

对此，俞教授建议从三个维度进行：一是利用AIGC合成内容鉴别，应对AI的恶意应用；二是通过大模型纠偏，提升AI的安全能力；三是借助生成式模型水印，保护AI赋能的系统。

中国科学技术大学网络空间安全学院执行院长俞能海

安永（中国）企业咨询有限公司合伙人王坚在《AI大模型技术演进及应用》的主题演讲中指出，未来AI大模型技术演进路线可能沿着六大维度发展：

一、模型规模的增长，大模型参数数量激增；

二、多模态学习，能够处理多种数据类型的应用和场景；

三、提高模型训练和推理的效率和可持续性；

四、提升模型决策过程的透明度和可解释性，减少“黑箱”现象；

五、使模型具备连续学习能力，避免灾难性遗忘，适应动态环境中的新数据和变化；

六、确保模型在恶意攻击下的稳定性和安全性，增强鲁棒性。

安永（中国）企业咨询有限公司合伙人王坚

Al+安全，探索安全行业的创新未来

当前安全产业，从技术角度存在安全天平和能力鸿沟等问题，AI时代下的数据安全、内容安全、业务安全、供应链安全等安全问题尤为突出。

在此背景下，杭州人工智能学会副秘书长、安恒信息研究院院长王欣在《Al之于安全行业的应用探索》的主题演讲中提出，AI+安全一定是安全未来发展的巨大方向。

王欣指出，人工智能创立之初即是模拟、延伸和扩展人的智能理论、方法、技术和应用系统的一门技术学科。大模型的涌现能力，相比于过往人工智能技术，在理解指令、理解例子、思维链能力和快速学习能力四个维度得到了更多的能力增强，分享了过去在数据安全、安全运营等多个场景下的安全大模型实践经验。

王欣认为，AI之于安全，其真正的AI能力只发挥了不足5%，同时他对AI之于安全的应用趋势做出了八大预判：

一、大模型为核心的AI智能体（AI Agents）将成为安全产业的标配，越来越多的AI Native工具将成为Agent的“手和脚”；

二、在AI智能体的影响下，自适应安全架构将得到全新升级；

三、在AI智能体的影响下，机器人流程自动化将与许多安全业务相结合；

四、AI智能体将重塑安全工作协同方式；

五、AI多模态技术的不断演进，舆论战、信息战、涉网新型犯罪将率先应用AI技术获得技术“红利”，监管将面临前所未有的挑战；

六、安全攻防将进入全新阶段，智能攻击与智能防御成为新的技术博弈领域，AI原生的蠕虫病毒或将席卷全球；

七、AI时代下的数据安全、内容安全、业务安全、供应链安全等安全问题尤为突出，将会给AI产业应用和发展带来挑战；

八、AI时代带来安全产品的全面升级革新，能力原子化、接口标准化将快速推进。

杭州人工智能学会副秘书长、安恒信息研究院院长王欣

实践为先，为行业智能化转型打样

天津大学信网中心主任于瑞国在《天津大学算力与网络安全融合建设》的主题演讲中介绍了天津大学响应国家大力推进超算、人工智能平台建设的政策引导，建设校级算力资源共享平台，有效支撑面向重大项目或课题的开发与创新，服务AI for Science的成功经验。

天津大学信网中心主任于瑞国

安恒信息隐私计算事业部总经理陶立峰带来《基于机密计算的大模型训练和推理数据围栏》的主题演讲，介绍了如何在大模型训练和推理时，解决数据既要利用又要保护的矛盾需求，以及保护模型安全的双重难题。

安恒信息在隐私计算的基础之上，**将大模型训练与推理能力支持起来，**以确保大模型的训练数据能在更安全、可信、可靠的环境当中得以训练，模型也能在更安全的环境下去部署与应用。

陶立峰表示，通过将可信执行环境、机密计算与大模型训练框架结合，构建基于机密计算的大模型训练与推理的数据围栏，再结合全流程的加密、授权与审计、审批等管控手段，**就能够实现基于场景的最小化数据授权，**同时确保数据在受控环境之下不会被滥用。

安恒信息隐私计算事业部总经理陶立峰

针对大模型开发及大规模AI计算系统的挑战，安恒信息正式发布了**昇腾-恒脑推理一体机，**全流程加速大模型的创新与落地，

在对人工智能高性能计算的不懈追求中，**安恒信息与华为昇腾团队经历了长期深入的合作与共创历程。**基于昇腾软硬件生态，安恒恒脑取得了一系列重要成就，同时，也率先完成了多代昇腾硬件适配。一体机融合了安恒信息自主研发的恒脑·安全垂域大模型和华为昇腾业界领先的AI计算能力,在全流程加速大模型创新应用的同时，也彰显了双方在人工智能领域的持续创新能力。 

安恒信息生态合作部总经理吴伟京与华为制造与大企业军团解决方案副总裁余倬共同出席仪式。**双方未来将在安恒-华为战略合作的框架下继续加强合作，**在大模型技术、软硬件生态、云端服务等领域开拓创新,共同推动智能化数字安全的进步。

昇腾-恒脑推理一体机正式发布

安恒信息研究院创新业务部总经理姚龙飞在《恒脑2.0智能体核心和自动化革新》主题演讲中提出，**大模型的下半场应是智能体的大爆发。他以恒脑·安全垂域大模型为例，介绍了安恒信息以智能体为核心驱动产品、业务进行结合的探索与应用。**目前，安恒信息将RPA的思想进行了充分的理解之后融入智能体框架设计，并在安恒信息的数据分类分级产品、AiLPHA告警研判、DLP、API、SOAR等产品中广泛应用，实现了不同场景下的能力大幅提升。

安恒信息研究院创新业务部总经理姚龙飞

海亮集团数字创新部部长孙雯带来《海亮集团大模型应用于数据安全的探索与实践》主题演讲，分享了海亮集团正在不同的业务场景探索AI大模型的应用，特别在数据安全领域已取得一定成果。她说，随着企业边界不断扩大，场景越来越复杂，传统的安全防护正逐步失效。

与此同时，企业的数据随着数字化转型深入变得越来越值钱，数据泄露风险与日俱增。为此，海亮集团构建了“113N”安全能力建设框架，从“事前-事中-事后”做好端到端防护，实现外抵攻击、内防泄露的目标，以安全护航数字化转型。

孙雯表示，**海亮集团将与安恒信息携手，**基于安恒恒脑的专业能力，海亮丰富的业务场景和多领域行业数据沉淀，锻炼出更多适配于不同企业、聚焦于不同行业的智能体。

海亮集团数字创新部部长孙雯

在随后举行的海亮-安恒联合创新实验室揭牌仪式上，在海亮集团轮值总裁何文天、安恒信息董事长范渊的共同见证下，安恒信息研究院院长王欣和海亮集团数字创新部部长孙雯共同为联合创新实验室揭牌。

未来，双方依托安恒信息恒脑安全大模型及生态资源，结合海亮集团丰富的行业数据及数据安全实践，共同构建数据安全领域解决方案，推进国家、行业、团体等数据安全标准规范的研制，探索大模型+数据安全的应用落地，打造国内大模型+数据安全的先进标杆案例，形成产业合力。

海亮-安恒联合创新实验室揭牌仪式

火山引擎大模型安全产品研发负责人郭建新在《大模型安全内部实践分享》中，**总结了大模型应用的四个风险点，**分别是模型输出异常、对话机制、数据安全和系统安全。对此，火山引擎方舟平台以业务安全和底座安全为核心，构建了“一矛”“一盾”“一沙箱”的解决方案确保大模型应用安全。

AI论剑，共议安全和发展的平衡之道

随着人工智能技术的蓬勃发展，到底哪些行业或领域在引入大模型技术后将会有显著的效果和光明的发展前景？安全和发展该如何平衡？未来可能出现哪些全新的应用场景或商业模式？

在杭州人工智能学会副秘书长、浙江传媒学院媒体工程学院讲师王亚奇的主持下，教育部新工科联盟网络空间安全工委会主任委员、俄罗斯国家工程院外籍院士胡瑞敏，阿里研究院数据经济研究中心副主任王峥，华为制造与大企业军团解决方案副总裁余倬，安恒信息研究院副院长税雪飞**围绕“大模型在各行业的应用潜力与安全影响”**展开激烈碰撞。

胡瑞敏总结了大模型落地场景的三要素：数据资源足够丰富、高端人才极度紧缺、效率提升需求急迫；满足这三要素的行业和领域适合应用大模型进行赋能和增益。

余倬分享了华为自身经验，表示大模型在to B场景下的提质增效已有诸多应用成效，要抓住合适的场景进行深耕以提高生产力。

王峥认为，AI应用从微软AI助手到现在更多的AI 智能体，体现了机器在规划、决策和执行能力的提升。在中长期看，大模型技术的发展趋势是在人类可控的前提下，提升机器的自主性。

税雪飞认为从全球主流大模型发展近况看，大模型已经到了应用落地的快速爬坡时期；在安全领域，攻击方和防守方在应用大模型上的对抗已经开始，安恒信息也在推进应用大模型和智能体构筑新一代的安全防线。

圆桌对话：AI论剑——大模型在各行业的应用潜力于安全影响

最后，CSA大中华区研究院副院长黄连金带来《生成式AI应用的安全挑战》的直播演讲，指出生成式AI的安全挑战主要包括影子AI、自动化和可拓展的威胁与零日漏洞、安全工具集成、恶意工具、大模型聚合导致的数据泄露，以及使用AI导致原先的权限策略问题更加凸显等。介绍了2024AI安全产业图谱的整体调研情况。

黄连金《生成式AI应用的安全挑战》直播演讲

本次“AI引领数字安全新浪潮专题会议”由浙江省科学技术协会指导，杭州市科学技术协会主办，杭州市人工智能学会、中国计算机学会计算机安全专业委员会、云安全联盟大中华区、西电杭州研究院、安恒信息承办。