Google Cloud Model Armor：为生成式 AI 输入输出增加运行时防护
Google Cloud 的模型无关运行时安全服务，在提示词、回复和智能体交互进入业务系统前执行威胁与敏感数据检查。
Google Cloud Model Armor ai-safety prompt-injection security Google Cloud 的模型无关运行时安全服务，在提示词、回复和智能体交互进入业务系统前执行威胁与敏感数据检查。
1. 调研缘由
生成式 AI 接入工具和企业数据后，风险不只来自模型本身，也来自提示注入、恶意链接和敏感信息外泄。Google Cloud 在 2024 年 5 月 6 日首次公开 Model Armor，定位为检查并保护模型提示词与回复的安全层。[S1] 它值得关注的是能否在不更换模型的前提下形成统一入口。
2. 简介与产品工作流
Model Armor 通过 REST API 或 Google Cloud 的内联集成，对提示词、模型回复和智能体交互进行运行时筛查。[S2] 常见路径是先建立模板与安全策略，再把应用流量送入检查，依据发现结果放行、拦截或脱敏，并把事件纳入现有安全监控。
3. 团队与资本背景
该产品属于 Google Cloud 安全产品组合。首次公告把它放在 Secure AI Framework 相关能力下，并计划与 Vertex AI 等服务集成。[S1] 采购应关注云账户、地区和安全运营体系的适配。
4. 技术基础与生态位
官方产品页描述其防护由规则、机器学习模型和 AI 推理模型组合而成，可检测提示注入、越狱、恶意 URL、恶意文件以及敏感数据。[S2] 它位于应用与模型之间，是运行时控制层，不替代模型训练安全、身份权限、人工审核或应用自身的业务校验。
5. 市场与外部信号
Model Armor 当前提供 API，并与 Apigee、Gemini Enterprise Agent Platform、Google MCP 服务器等入口整合；官方也强调可用于多种模型和多云环境。[S2] 实际调用链仍需验证延迟、兼容与错误处理。
6. 公开评价与主要分歧
价值在于把多类检查集中到同一控制面。主要分歧是误报、漏报和延迟：阈值严格可能阻断正常请求，过松又可能放过攻击。官方能力列表不能替代团队的对抗与回归测试。[S2]
7. 同类对比
与模型厂商内置的内容过滤相比，Model Armor 更强调跨模型的外部防护；与开源 guardrail 库相比，它提供托管 API 和 Google Cloud 集成。[S2] 比较时应统一测试集，分别记录提示注入检出率、敏感数据遮蔽、误报率、P95 延迟和故障时的降级策略。
8. 信息缺口与后续观察
公开页面没有给出适用于所有业务的准确率承诺。接入前需核对地区、配额、日志、保留政策和合规条款，并明确服务不可用时阻断还是绕过。
9. 归纳洞察 ★
Model Armor 更像安全网关，而不是让 AI 自动变安全的开关。试点应从影子模式开始：复制部分脱敏流量检测，不影响用户；用已知攻击与正常请求校准阈值，再对高风险工具调用启用阻断。成功标准应同时约束检出率、误报、延迟和可审计性。
10. 来源与更新时间
更新时间：2026-08-12。