ai-security

NVIDIA 与众多安全、云、软件及开源机构发起的 AI 安全协作倡议，目标是共建可检查、可运行的开放防御模型、代理框架与工具，当前更适合跟踪贡献与参与试点，不宜当成成熟产品。

Promptfoo 是用于评测、红队测试和比较 LLM 应用输出的开源工具与商业平台。