循万变·见未来——技术前瞻
未来,大语言模型将在**网络安全的人机交互、威胁检测、事件推理、辅助决策等多个环节得以深入应用,**与此同时,可精确计算、合法合规的、可解释的、保护隐私的可信大模型将成为安全智能研究的重点。
——绿盟科技天枢实验室主管研究员
张润滋
随着大模型技术的发展,围绕大模型的核心技术范式,重构传统应用,已成为人工智能应用领域的重要发展赛道。
为了有效缓解安全对抗与运营中的信息爆炸挑战,全面提升对抗与运营技术的自动化水平,亟需研究基于大模型的安全应用研发与运营新范式。
本届XCon2024大会中,来自绿盟科技天枢实验室的主管研究员 张润滋将从AI Native Security Application(AI原生安全应用)的视角出发,探索基于大模型重构安全应用的未来框架。
议题将系统**分析安全智能化的需求与人工智能原生安全能力的内涵,进而基于工业界与学术界在大语言模型操作系统技术领域的进展,讨论在安全场景下大模型应用的未来范式,**包括人机协作的运营智能滑动标尺,**进一步设计并提出面向安全应用的大语言模型操作系统概念框架,**并识别了该领域技术蕴藏的潜在风险,以期为安全领域智能化发展提供系统性研究视角。
议题简介
《AI Native Security Application: From a LLM OS Perspective》
本议题将基于网络空间安全人工智能发展趋势,分析AI原生安全应用的新需求,并通过对大语言模型操作系统研究前沿总结,阐述面向安全应用的大语言模型操作系统框架,并对其中蕴含的包括编程语言风险、机器幻觉风险和对抗失效风险进行解析。
议题将面向大模型驱动安全智能的新机遇与新挑战,梳理大模型操作系统的研究进展,为AI原生安全应用的新范式提供系统性的分析视角。
演讲人介绍
张润滋——绿盟科技天枢实验室主管研究员
**
**
**张润滋——**博士,副研究员,绿盟科技天枢实验室主管研究员
研究方向包括智能安全运营、可信人工智能、数据驱动威胁狩猎等,发表**论文18篇,获得授权专利十余项,主笔撰写智能安全运营等安全智能领域技术白皮书,**主持、参与多项省部级课题,**获得北京市科委科技专项、中国博士后基金等多项资助。曾入选北京市科技新星计划,获得北京市科学技术进步奖、中国计算机学会科技进步奖等奖项。**主要演讲经历包括:XCon、KCon、CIS、INSEC World等。