搜索中心

LLM应用框架解码之DSPy

RTP-LLM是阿里巴巴智能引擎团队开发的大模型推理加速引擎，作为一个高性能的大模型推理解决方案，它已被广泛应用于阿里内部。在这篇文章里，我们将基于RTP-LLM的实践，介绍decode阶段的Attention在GPU上是如何优化的。

预览

预览

预览

预览

557人阅读

2024-07-27

LLM安全译文第3篇将普及网络LLM攻击及提示注入知识，希望对您有帮助！

简而言之：矩阵 → ReLU 激活 → 矩阵

预览

预览

预览

预览

80人阅读

2024-08-08

LLM安全第二篇译文介绍LLMjacking，基于漏洞窃取信息的大模型攻击

LLM OWASP TOP 10 - LLM 01

这篇译文探讨了黑客如何通过侧信道攻击读取ChatGPT聊天内容，希望您喜欢！

本文引入了 TrojanRAG，这是一种探索 LLM 安全漏洞的新视角。

论文解读：《REVS-通过词汇空间中的排名编辑来去除语言模型中的敏感信息》

本文主要工作： 实现了一个LLM引导的协议模糊器。提出三种基于LLM的模糊器变异策略，每种策略解决了协议模糊测试的特定挑战。本文实现了灰盒模糊测试算法并命名为CHATAFL。目前该工具已在github开源。

基于LLM的多语言程序修复

或许是短期内在网络安全领域能看到的最实际的可落地场景之一

随着人工智能技术的快速发展，chatgpt这类生成式AI应用已经逐渐渗透进社会的方方面面。本文旨在分享名为burpGpt的burpsuite插件工具的思路，感兴趣的同学可以研究并开发适合自己的工具。

预览

预览

预览

预览

230人阅读

2024-07-12

大语言模型（LLM）在当前社会中扮演着日益重要的角色，其广泛应用领域突显了其对社会和技术发展的重要性。

「 Rust 与 LLM」 是本合集的主题系列之一，本文为番外第三篇。阅读本系列文章不需要有数学基础。

「 Rust 与 LLM」 是本合集的主题系列之一，本文为番外第二篇。阅读本系列文章不需要有数学基础。

本文介绍 BPE Rust 实现

提升漏洞库的质量和准确性对改善软件供应链安全至关重要，白泽团队探索用LLM提高漏洞库质量，服务高效漏洞治理

大语言模型(LLM)红队测试的专业指引...

产品

创宇盾

知道创宇

214

0

知道创宇云防御拥有大量的黑客攻击样本库，创宇盾利用知道创宇网络空间搜索引擎ZoomEye、Seebug漏洞社区及7X24小时实时防御的上百万业务系统数据，帮助包括互联网企业、政府机构、民营企业建立全方位防御体系，覆盖Web业务系统、门户网站、Web API、移动APP、小程序、AI大语言模型（LLM）等多种应用场景，提供持续高可靠的攻击防护能力。