dui
本文6382****字 阅读约需 16****分钟
5月10日，2024 RSAC会议在旧金山落下帷幕。这一吸引全球4万多专业人士的行业会议，透露出安全行业的下一代趋势与变化。人工智能无容置疑是今年大会的最热门话题，包括AI重塑网络安全，以及AI相关的隐私与数据安全挑战。此外，社区协作、平台化集成也是本届大会的重要议题。美国国务卿首次现身2024 RSAC，凸显出在全球各地陷入了地缘政治冲突之际，网络安全在国家安全中的日益重要作用。
可能的艺术
2024 RSAC的主题是“可能的艺术”， 反映出网络安全届对技术创新、AI风险和社区协作的关注。RSAC 执行主席 Hugh Thompson 在演讲中表示，网络安全界的合作——这种“通过社区解决问题”的方法对于应对不断变化的威胁至关重要。他强调当网络安全届作为一个行业共同努力时，可以做的比想象的更多。“通过拥抱激发动力和想象力的社区力量，通过协作体验推动网络安全的卓越发展，让不可能变得更加可能。”
“可能的艺术”这一主题显然一方面是为了激发业界的希望，但同时也是警告“我们永远不应该低估对手的潜力“。
美国国务卿布林肯首次在RSAC发表演讲，并公布了美国的《国际网络空间和数字政策战略》。他强调这一新战略的核心是“数字团结”——与志同道合的国家合作，向恶意网络活动和其他数字威胁的受害者提供互助，并遏制敌对国家的影响。
这一新战略强调与国际合作伙伴在技术治理方面保持一致，与民间和私营部门建立强有力的伙伴关系，并通过值得信赖的技术供应商提供的多样化产品和服务来提高网络安全弹性。
从社区协作，到政府部门与民间、私营机构建立伙伴关系，这种集体防御已经在加强关键行业的网络防御方面发挥着关键作用。作为一种网络安全协作方法，集体防御将多个组织聚集在一起，汇集各自的资源和专业知识，以改善集体的安全态势。
集体防御不仅在政府机构中具有重要意义，而且在寻求增强网络安全的私营组织中也具有重要意义。许多私营机构认识到协作和信息共享在有效应对网络威胁方面的力量。例如，网络威胁联盟(CTA) 将网络安全公司聚集在一起，共享情报、协作进行威胁分析并针对新兴网络威胁制定主动防御措施。另一个例子是金融服务信息共享和分析中心（FS-ISAC），促进金融机构之间的信息共享和协作，以防范针对金融部门的网络威胁。
AI重新定义网络安全
在会议召开前，RSAC执行主席休·汤普森 (Hugh Thompson) 撰文披露了大会的三个热点：人工智能、信息操纵和CISO职业倦怠。这三个热点要么与人工智能相关，要么需要人工智能解决。
展会中的网络安全企业都努力贴上了AI的标签，要么宣称产品与方案是AI赋能（Powered），要么是AI使能（Enabled），总之背后都是AI驱动。参会的首席信息安全官则渴望了解如何利用人工智能来快速准确发现和处置威胁，消除因人员不足、能力不足和工具不利导致的职业倦怠。
在RSAC期间，云安全联盟（CSA）举办了持续一天的AI峰会，全面讨论如何利用AI保护云安全， 以及应对AI相关的风险问题。谷歌云Mandiant首席执行官凯文·曼迪亚 （Kevin Mandia）在围炉对话中强调，人工智能将会长期改变安全行业。他在有关“塑造人工智能和网络安全政策”的讨论中预测，“从现在起五年后，所有的攻击都将是人工智能对人工智能的攻击，因为人类无法以同样的速度进行防御。”网络安全公司Exabeam的首席产品官史蒂夫·威尔逊 (Steve Wilson) 则表示：“没有采用这些机器学习技术的竞争对手已经落后了。”
谷歌云Mandiant首席执行官凯文·曼迪亚 （Kevin Mandia）
这或许才是网络安全从业者急于踏上人工智能快车的原因：在日趋激烈的攻防对抗中，生成式人工智能正在彻底改变网络安全。不积极采用人工智能的企业，无疑会在跟攻击者的对抗中全面落后。
思科执行副总裁兼安全与协作部总经理Jeetu Patel在《时机已到：重新定义人工智能时代的安全》主题演讲中表示，攻击的速度和复杂性正在上升，而人工智能正在释放两年前不可能实现的安全能力。现在是时候利用人工智能并重新思考网络安全，而不仅仅是炒作。
根据Gartner的 预测，到 2028 年，生成式人工智能 (GenAI) 的采用将极大地影响网络安全，通过消除 50% 的入门级网络安全职位，从而缩小专业技能的差距。
思科执行副总裁兼安全与协作部总经理Jeetu Patel
从理解复杂的指令，到生成代码，再到解决复杂的问题，大型语言模型（LLM）展现出非凡的能力，正在迅速改变包括网络安全在内的许多领域。谷歌& DeepMind AI安全技术和研究主管埃利·布尔斯坦博士（Elie Bursztein ）分享了大型语言模型如何重塑网络安全格局的观点。他强调，现在的大模型在检测多模态恶意软件、保护代码安全、提高安全响应速度等方面展示出强大能力。
正是由于看到AI改变网络安全巨大潜力，2024 RSAC上展示的半数以上的产品都加持了AI技术，从代码检测、数据分级分类、威胁检测、行为分析等检测技术到威胁告警分析研判和自动化处置都体现了AI+的融入。以SIEM产品为例，Elastic演示了可以集成任何第三方的威胁分析大模型，一次最多可以分析100个告警。CrowdStrike则提出了新一代SOC是AI内生的SOC，包括通过AI第三方介入、AI正则化、AI数据丰富、AI流程自动化以及建立自己的大大语言模型（LLM）用于提升安全运行效率。
在RSAC创新沙盒比赛中，生成AI驱动安全运营自动化的初创企业Dropzone AI成功跻身10强。根据公开信息，通过将自主 AI 分析师无缝集成到安全工作流程中，Dropzone AI 将会改变安全运营的方式，能在不增加人员的情况下以 10 倍以上效率开展运营。Dropzone AI虽与冠军擦肩而过，但其通过部署预先训练的自主 AI 分析师来提升安全运营效率的思路，受到业界认可。该公司在 A 轮融资中筹集了 1685 万美元。
Dropzone AI创始人兼CEO Edward Wu在创新沙盒上
Dropzone AI的模式与国内网络安全领军企业奇安信利用安全机器人大幅提升运营效率的思路不谋而合。根据公开的数据，QAX-GPT安全机器人的警研判效率达到人工研判的60多倍，研判误报率是人的接近一半。安全事件平均调查响应时间则从原来小时级缩短至分钟级，单一威胁事件处理时间减少98%。
由McAfee企业安全及FireEye合并而成的Trellix 公司，则在RSAC期间宣布推出人工智能和 GenAI 支持的新套件 Trellix Wise，可以跨 Trellix XDR 平台进行扩展，更有效地发现和消除威胁，同时降低安全运营成本。其关键功能包括工作流程自动化、分析师效率的提升以及威胁的预防、检测、应对和调查。
网安龙头企业Palo Alto Networks没有参加 RSAC 2024，但在总部举行了小型会议，重点介绍其新人工智能产品Precision AI。利用Precision AI这一技术，将机器学习 (ML) 和深度学习 (DL) 的优点，与生成人工智能 (GenAI) 实时结合，可以为用户提供人工智能驱动的安全防护，从而超越对手、主动地保护网络和基础设施。首席执行官 Nikesh Arora 表示，“对抗人工智能的唯一方法就是使用人工智能。”
面对AI的巨大潜力，人们很容易会设想AI取代人类安全分析师，实现安全运营自动化的场景，但事实可能并非如此。AI将大幅提升安全运营的效率，但却不会完全取代安全专家；人工智能不会成为所有安全问题的解决方案，而是让安全解决方案更加高效、让安全投资价值最大化的重要工具。
从AI武器化，到信息操纵和模型安全
安全从业者致力于实现AI赋能安全的未来，但用户同样关注AI武器化的风险：攻击者利用AI创建新恶意软件或网络钓鱼，从而绕开现有安全堆栈和工具。此外，AI大规模部署带来的隐私和数据安全挑战，以及生成式AI引发的信息操纵风险，也是参与者关注和讨论的热点问题。国土安全部部长亚历杭德罗·马约卡斯 (Alejandro Mayorkas) 强调，应对人工智能的影响已成为当务之急。为了确保在监管和创新之间取得适当的平衡，网络安全社区显然需要合作塑造人工智能的未来。美国国土安全部人工智能安全咨询委员会将在RSAC会议同一周召开首次会议，该委员会成员包括 OpenAI、微软、Alphabet 和 英伟达的首席执行官。
Trace3 的创新负责人贾斯汀·哈钦斯 (Justin Hutchens)证实，对人工智能崛起的很多担忧（尽管不是全部）是有道理的。在研究中，他发现 ChatGPT 4.0 能够自主实施渗透测试，其成功达到了“可怕”的程度。随着国家间人工智能军备竞赛的快速发展，人工智能超越控制只是时间问题，而不是是否突破的问题。哈钦斯警告说，网络安全行业需要立即采取行动并进行创新，以便为未来做好充分的防御。
谷歌云Mandiant首席执行官凯文·曼迪亚 （Kevin Mandia）主持的“塑造人工智能和网络安全政策”的讨论中，参与讨论人员一致认为，目前影响世界各地选举的信息操纵、误导和错误信息问题令人严重关切。随着深度伪造技术的日益成熟，攻击者可以生成名人、政治家和有影响人士的高度写实视频和音频，从而可以导致欺骗和混乱。
利用深度伪造技术的信息战已经成为国际冲突的一部分。俄乌冲突与以哈冲突期间均出现利用深度伪造技术，冲突双方生成对方政治领导人的虚假视频，意图制造社会混乱，凸显出对AI生成内容及时有效检测的重要性。
从社会角度来看，网络安全专家担心即将到来的美国总统大选将催生一波深度造假浪潮，以左右美国的舆论。或者正是由于美国社会对虚假信息的忧虑，安全初创企业Reality Defender赢得创新沙盒冠军，该公司的Deepfake 检测平台可以实时识别检测欺诈性音频、视频、图像和文本。Capitol Meridian Partners 运营合伙人、创新沙盒竞赛评委之一 Niloofar Razi Howe 表示，利用人工智能实施的深度伪造（ Deepfake ）可能是“我们面临的最重要的问题之一。
人工智能工具具有巨大的优势，但安全和隐私是组织犹豫部署人工智能工具的主要原因。令人担忧的是可能通过大型语言模型暴露敏感数据，尤其是在缺乏强大的数据治理和访问控制措施的情况下。考虑实施人工智能的公司需要优先考虑这些方面的风险，以确保其数据安全。2024创新沙盒中，多家致力于大模型数据安全防护的创新企业跻身10强，凸显出业界对大模型训练、使用时的数据安全风险忧虑。
AI 系统安全也是本届 RSAC 的重点议题，安全专家从安全框架、产品方案和红队实践三个角度探讨AI系统安全防护。
AI系统的安全框架方面, 各主要框架研究组织都公布了自己的进展。OWASP 发布了改版的AI安全网站。未来，OWASP 将从AI 风险优先级排序、与其他框架的互联互通、增强数据验证和质量控制、框架的可落地性等方面推动 AI 安全框架发展。
在产品方案层面，建制派平台安全厂商、模型开发厂商、AI 安全初创公司等三类厂商根据其在 AI 安全生态中的定位和愿景，构建了自己的策略和产品能力：（1）建制派平台安全厂商，以微软为例，整合现有的安全运营、身份安全和数据安全产品，覆盖 AI 系统全生命周期的关键步骤，提供全面的威胁监控、防护及事件响应。（2）模型开发厂商：微软在 Azure AI Studio 增加了安全验证功能，提供安全测试数据集以验证模型的鲁棒性，并打通开发和运行过程，使客户能够将使用外部大模型时的高风险行为反馈给研发团队，帮助优化模型开发。（3）AI 安全初创公司，以Protect.AI 为例，推出了完整的 AI 系统安全解决方案，包括模型访问控制（Guardian）、AI 供应链脆弱性数据库（SightLine）及端到端大模型威胁与可见性监控（Layer）。
在 AI 系统的红队实践方面，有关关注范围的争议较大。部分专家认为，应集中在传统安全场景及 LLM 应用安全场景，如提示注入、越狱攻击等。而另一部分专家则认为，未来应更多关注模型应用质量问题，因此 AI 红队测试将更多采用白盒测试，深入 DataOps、ModelOps 和 DevOps 全流程，对关键步骤进行审计和评估。
更高的平台化集成
RSAC 2024另一个主要话题是，整合和简化安全工具，其重点是改善告警并确定实际风险的优先级。工具复杂性是网络安全中持续存在的问题。更多的工具增加了复杂性，增加了成本，给客户带来管理的挑战。RSAC期间，笔者采访洛杉矶市CISO Timothy Lee时，Timothy重点提到了快速、准确、自动化的检测和处置网络安全威胁，以及让安全产品和工具发挥更大作用等两大挑战。这都有安全工具的蔓延不无关系。
现在网络安全供应商更加重视与其他供应商产品的有效集成，以满足客户的需求，这也反映出整个行业发生了显着的变化——网络安全厂商更加关注响应客户对统一平台的需求，希望安全产品能很好地协同工作。工具疲劳和客户对安全产品合理化的需求“确实进一步推动了集成的趋势”，这一趋势在整个行业中正逐步得到落实。
有安全专家认为，这代表我们进入网络安全的第三个时代：人们越来越认识到，没有任何一家供应商能够提供有效防御不断变化威胁的所有功能。因此，开始转向集成解决方案——将多个供应商的产品和服务结合到同一安全架构中，目的是为了提供最佳的客户价值（相对于孤立安全工具与单一安全平台的时代）。
云安全初创公司Netskope的首席执行官桑杰·贝里(Sanjay Beri)表示，越来越多的供应商发现，通过与业内其他公司紧密集成，满足用户将工具整合到统一平台的需求。即使是业内提供几乎所有类别安全能力的供应商——微软，现在也比过去“更愿意集成”。
市场上五花八门的网络安全产品，是否能够很容易的组合在一起发挥1+1>2的作用？2024 RSAC上，大多数厂商都展示了其平台型产品，所谓平台型产品就是能够把不同的单点的产品通过数据/控制的打通发挥产品组合的作用，这包括软件供应链安全平台、开发安全平台、资产暴露面管理平台、数据安全态势管理平台等，当然也包括XDR、SIEM、KMS等。
抛开这些平台功能不谈，还有一个更重要是这些平台之间以及与单点产品之间有比较好的协作性，每个平台型的产品都预制了大量的适配器以快速集成第三方产品，这些适配器同时也在持续增加和更新。另外，这些平台的引擎以及规则也会根据攻击手法的不断演进而持续更新迭代。
以JupiterOne的CAASM平台为例，它内置了超过200个资产采集的适配器，以帮助用户能够更加快速全面的采集资产相关数据。在本次RSA大会上，Splunk介绍了自己的检测工程蓝图，其威胁分析团队从TTP分析、建立模拟数据集、建立/优化检测模型、测试验证、发布检测模型，从而使得用户可以能够快速检测到最新的攻击手法。
CrowdStrike 的 Falcon Next-Gen SIEM 全面推出后，与 Netskope、Zscaler、Proofpoint、ExtraHop、Trellix 和 Palo Alto Networks 等数十家供应商进行了集成。在本次大会上，CrowdStrike 宣布与 Google Cloud 扩大战略合作伙伴关系，利用 CrowdStrike Falcon 平台和 Google Cloud 安全运营平台为 Mandiant 的事件响应 (IR)和托管检测和响应 (MDR) 服务提供支持。
专家认为，安全专业人员未来可以期待看到更多的集成，以及AI带来更高自动化。这一迟来的发展是对网络安全领域融合大趋势的的回应：客户和合作伙伴在安全工具蔓延和复杂性方面苦苦挣扎，自身却缺乏管理工具所需的人才，以及各方提升安全的迫切需求。
本文撰稿：尹智清、邬怡、周奕、李建平
END
