大模型安全
针对大语言模型自身的安全问题 —— 区别于"用 AI 增强传统安全"，本概念聚焦"AI 模型本身的安全"，是 AI赋能安全应用 与 模型生态与工具链 子行业的交叉领域，年增速 >50%，是 AI 安全里增长最快的细分赛道。
四大核心风险
增长驱动
主要玩家
中国
国际
- Lakera — LLM 应用运行时防护（Prompt 注入）
- Patronus AI — LLM 评测 / 质量保证
- Robust Intelligence — 全生命周期 AI 防火墙（被 Cisco 收购）
大模型安全
又名 LLM Security · AI Model Security · LLM 安全
大模型安全 = 涵盖 LLM 全生命周期（训练 / 微调 / 部署 / 推理）的所有安全风险与防护方案，包括对抗输入（提示词注入 / 越狱攻击）、训练数据安全（数据投毒）、模型本身安全（模型窃取 / 后门）、输出安全（违规内容 / 隐私泄露）、Agent 系统安全（工具调用劫持）等
首次提出2022关键参与方Lakera Patronus AI Robust Intelligence 三六零 深信服 奇安信
谁提到了它
19 处提及 · 按提及次数排序360安全大模型3 处
…360智鉴 大模型全链路安全检测，支持 400+ 公开漏洞，覆盖 RAG / Agent / Prompt 360智盾 大模型内容安全护航，入选国家大模型安全标志性产品 360 安全智能体 以 360 安全大模型为大脑实现威胁深度识别 360 智搜 搜索增强 智能文档云 知识管理…
以模制模3 处…360安全大模型 + CoE 类脑分区 + 100+ 智能体 · 大模型安全卫士（2025-09 战略级发布） · 360智鉴 / 360智盾 等大模型安全检测产品 行业意义 · 推动 AI赋能安全应用 子行业从"AI 化升级传统安全"向"AI vs AI 攻防对抗"演进 · 把 大模型安全（提示词注入 / 越狱攻击 / 数据投毒）做成独立赛…
大模型安全联盟3 处…大模型安全联盟 2024-12 在北京成立，由 三六零 牵头发起的中国第一个聚焦大模型安全的行业联盟，周鸿祎 以模制模 战略的生态落地形态。 一句话定义 大模型安全联盟 = 跨头部 AI 公司 + 高校 + 安全厂商的行业组织，目标是推动 大模型安全 技术标准制定 + 数据共享 + 联合研发，应…
360智盾1 处…360 智盾 三六零 大模型内容安全护航产品，入选国家大模型安全标志性产品，是 360 大模型安全产品矩阵中的运行时防护组件。 一句话定义 360 智盾 = LLM 应用的"内容安全护航"，在模型推理输出环节实时拦截违规 / 有害 / 隐私内容，相当于"AI 应用的内容审核与运行时防护"。…
360智鉴1 处…三六零 大模型全链路安全检测产品，支持 400+ 种公开漏洞检测，覆盖 RAG / Agent / Prompt 等全场景，是 360大模型安全产品矩阵的核心检测组件。 一句话定义 360 智鉴 = 针对 LLM / RAG / Agent 应用的全链路安全测评工具，类似"AI 应用的渗透测试 + 漏洞扫描器"，覆盖训练前、训练中、推理时、…
提示词注入1 处…提示词注入 针对大模型的核心新型攻击手法——攻击者通过精心设计的提示词绕过LLM 安全限制，实现违规输出 / 越权访问 / 数据泄露 / 工具调用劫持。 一句话定义 提示词注入（Prompt Injection）= 把恶意指令嵌入到 LLM 的输入（用户问题 / 系统提示 / 外部文档 / 工具返回结果）中，让 L…
还有 1 个概念提到它
三六零1 处
…360智鉴 — 大模型全链路安全检测（400+ 公开漏洞，覆盖 RAG / Agent / prompt 场景） · 360智盾 — 大模型内容安全护航，入选国家大模型安全标志性产品 · 360 安全智能体 — 以 360 安全大模型为大脑（IDC 推荐，安全领域唯一入选） · 大模型安全卫士 — 2025-09 战略级产品，四大智能体系统化破解 AI 安全难题…
深信服1 处…国内厂商，以及 Palo Alto Networks、CrowdStrike、SentinelOne、Cisco 等国际平台；深信服正沿 Palo Alto Networks 式平台化路径，关注 AI 安全/LLM 安全、数据安全（天空卫士、数安行）、身份安全（竹云科技、派拉软件）、威胁情报（微步在线）和国产 AI 安全创业公司等潜在标的。 五、投资视角：多空逻辑…
AI赋能安全应用3 处
…2030 中国 AI 安全市场 >￥800 亿 内部研究 Gartner 前置式安全（2030 全球） 占企业安全支出 50% Gartner大模型安全细分年增速 >50% 内部研究 威胁检测响应 (TDR) 增速 30-35% 内部研究 安全运营自动化 (SOAR) 增速 35-40% 内部研究…
模型生态与工具链1 处…（688111.SH）★★★★（潜在 RAGFlow 收购方，WPS 嵌入战略） · 奇安信（688561.SH）★★★（AI 安全切入） · 深信服（300454.SZ）★★★（LLM 安全整合） · 浪潮信息（000977.SZ）★★★（AI 硬件向软件延伸） · 商汤-W（0020.HK）★★（AI 平台型公司港股先例） 巨头生态平台…