大模型安全
针对大语言模型自身的安全问题 —— 区别于"用 AI 增强传统安全"，本概念聚焦"AI 模型本身的安全"，是 AI赋能安全应用 与 模型生态与工具链 子行业的交叉领域，年增速 >50%，是 AI 安全里增长最快的细分赛道。
四大核心风险
| 风险 | 描述 |
|---|---|
| 提示词注入 | 攻击者通过精心设计的提示词绕过安全限制 |
| 越狱攻击 | 诱导模型输出有害或违规内容 |
| 数据投毒 | 在训练数据中植入恶意样本影响模型行为 |
| 模型窃取 | 通过 API 调用推断模型参数和结构 |
增长驱动
主要玩家
中国
国际
- Lakera — LLM 应用运行时防护（Prompt 注入）
- Patronus AI — LLM 评测 / 质量保证
- Robust Intelligence — 全生命周期 AI 防火墙（被 Cisco 收购）