… 年增速 >50%，是 AI 安全里增长最快的细分赛道。 一句话定义 大模型安全 = 涵盖 LLM 全生命周期（训练 / 微调 / 部署 / 推理）的所有安全风险与防护方案，包括对抗输入（提示词注入/ 越狱攻击）、训练数据安全（数据投毒）、模型本身安全（模型窃取 / 后门）、输出安全（违规内容 / 隐私泄露）、Agent 系统安全（工具调用劫持）等。 …
… 08-AI基础设施安全 数据安全（数据投毒）、模型本身安全（模型窃取 / 后门）、输出安全（违规内容 / 隐私泄露）、Agent 系统安全（工具调用劫持）等。 四大核心风险 风险 描述提示词注入攻击者通过精心设计的提示词绕过安全限制 越狱攻击 诱导模型输出有害或违规内容 数据投毒 在训练数据中植入恶意样本影响模型行为 …
… 奇安信 — QAX-GPT 配套大模型安全检测
· 大模型安全联盟 — 行业生态 国际
· Lakera — LLM 应用运行时防护（Prompt 注入）
· Patronus AI — LLM 评测 / 质量保证
· Robust Intelligence — 全生命周期 AI 防火墙（被 Cisco 收购） …
查看原文 →