演讲议题巡展 | 安全之眼-大模型时代下的攻与防

经过精心筹备与多方努力

KCon 2024 黑客大会敲定举办时间

将于8月24日-25日举办

本次大会涵盖了网安领域的不同热点话题

为了展示演讲议题风采

让大家了解更多大会情况

特此开展议题巡展

欢迎围观~

演讲者：

祝荣吉（BlBana）

绿盟科技天元实验室高级安全研究员,主要研究云安全、容器安全、大模型应用安全、Web应用安全、攻防技术武器化、漏洞挖掘与分析等多个技术方向，具备攻防技术研究、漏洞挖掘分析、蓝军武器研发等多项综合技术能力。曾作为M01N战队核心成员，参与多项国内重大网络安全竞赛并取得优异成绩。

绿盟科技天元实验室，专注于新型实战化攻防对抗技术研究。研究目标包括：漏洞利用技术、防御绕过技术、攻击隐匿技术、攻击持久化技术等蓝军技术，以及攻击技战术、攻击框架的研究。涵盖Web安全、终端安全、AD安全、云安全、AI安全等多个技术领域的攻击技术研究，以及工业互联网、车联网等业务场景的攻击技术研究。通过研究攻击对抗技术，从攻击视角提供识别风险的方法和手段，为威胁对抗提供决策支撑。

议题介绍：

安全之眼-大模型时代下的攻与防

随着大模型的兴起，近些年各种业务形态的LLM应用也层出不穷，模型越狱、角色扮演、目标劫持等LLM应用攻击手段逐渐被大家所熟知，而这只是大模型面临攻击风险中的冰山一角。随着LLM应用开始与业务紧密结合，各种Agent组件的接入为应用提供了更多的现实交互能力，在丰富业务功能的同时，也让LLM应用面临的攻击风险更加多样化。除此之外，LLM应用生命周期内各类技术能力组件与工具的开发应用，也为其带来了不同维度的安全风险。

本议题我们将从AI Red Team的视角出发，针对大模型主流应用架构开展深入的分析与拆解，从基座、数据、模型、应用、身份多个攻防层面出发，结合LLM应用实战攻击案例对各种攻击风险以及攻击手段展开介绍，并且基于LLM威胁暴露面与LLM生命周期两个维度，我们研究提出一套AI大模型风险矩阵，以此快速形成对大模型时代下应用场景的攻防认知。

最后，我们将从蓝队防御的视角出发，对未来LLM应用的防御策略进行分析与展望。希望我们的分享能为大家带来在大模型时代下独特的攻防体验。

期待与师傅们在线下相聚，不见不散！