AI Infra Guard
全栈 AI 红队测试平台，3.7K+ stars。腾讯安全出品，覆盖 OpenClaw 安全扫描、Agent 扫描、Skills 扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估，是 AI 安全领域的综合性红队工具
🎯适用场景：MCP 工具协议集成、AI 安全与合规防护
📊 仓库数据
📈 Stars 变化 ↑2 天 +5· 统计区间 6/10 18:11 → 6/12 12:11（2 天）
✅ 优点
- •全栈覆盖 AI 安全各层
- •腾讯安全出品可信
- •MCP 协议安全扫描
- •LLM 越狱评估
⚠️ 限制
- •项目较新生态待完善
- •需要安全领域知识使用
- •报告生成能力待增强
🔗 相关工具
Strix
github.com/usestrix/strix
开源 AI 安全黑客工具——自动发现并修复应用漏洞。基于 LLM 的智能渗透测试平台，能自主分析代码、识别安全漏洞并生成修复建议。25K+ stars，是 AI + 网络安全交叉领域的新标杆
🎯AI 安全与合规防护、自动化漏洞扫描与修复
Promptfoo
github.com/promptfoo/promptfoo
LLM 安全测试和红队评估工具，支持 prompt injection 检测、数据泄漏测试、输出评估，10,000+ stars
🎯AI 安全与合规防护
Nono
github.com/always-further/nono
基于能力的 Agent 运行时，2.4K+ stars。提供细粒度策略的 Agent 执行环境，直接在 Agent 运行上下文中进行权限管理，零设置零延迟。支持 MCP 安全、Prompt 注入防护和供应链安全
🎯AI 安全与合规防护
Claude BugHunter
github.com/elementalsouls/Claude-BugHunter
Claude Code 安全技能包，1.8K+ stars。71 个技能、15 个斜杠命令、681 个漏洞披露模式，覆盖 24 类核心漏洞类型，含企业级身份和基础设施攻击矩阵
🎯AI 辅助安全测试——用 Claude Code 自动执行漏洞挖掘和红队攻击，提升安全审计效率。
DeepTeam
github.com/confident-ai/deepteam
LLM 和 AI Agent 红队测试框架，自动化对 AI 系统进行安全攻击测试和风险发现
🎯对 LLM 和 AI Agent 系统进行红队安全测试，发现潜在漏洞
UQLM
github.com/cvs-health/uqlm
CVS Health 出品的 LLM 幻觉检测工具，1200+ stars。基于不确定性量化的语言模型幻觉检测 Python 包，提供置信度评分和幻觉缓解策略，是 AI 安全与合规的重要工具
🎯LLM 输出可靠性检测，AI 安全合规审计，模型评估