AI Infra Guard

开源 AI 安全黑客工具——自动发现并修复应用漏洞。基于 LLM 的智能渗透测试平台，能自主分析代码、识别安全漏洞并生成修复建议。25K+ stars，是 AI + 网络安全交叉领域的新标杆

🎯AI 安全与合规防护、自动化漏洞扫描与修复

LLM 安全测试和红队评估工具，支持 prompt injection 检测、数据泄漏测试、输出评估，10,000+ stars

🎯AI 安全与合规防护

基于能力的 Agent 运行时，2.4K+ stars。提供细粒度策略的 Agent 执行环境，直接在 Agent 运行上下文中进行权限管理，零设置零延迟。支持 MCP 安全、Prompt 注入防护和供应链安全

🎯AI 安全与合规防护

Claude Code 安全技能包，1.8K+ stars。71 个技能、15 个斜杠命令、681 个漏洞披露模式，覆盖 24 类核心漏洞类型，含企业级身份和基础设施攻击矩阵

🎯AI 辅助安全测试——用 Claude Code 自动执行漏洞挖掘和红队攻击，提升安全审计效率。

LLM 和 AI Agent 红队测试框架，自动化对 AI 系统进行安全攻击测试和风险发现

🎯对 LLM 和 AI Agent 系统进行红队安全测试，发现潜在漏洞

CVS Health 出品的 LLM 幻觉检测工具，1200+ stars。基于不确定性量化的语言模型幻觉检测 Python 包，提供置信度评分和幻觉缓解策略，是 AI 安全与合规的重要工具

🎯LLM 输出可靠性检测，AI 安全合规审计，模型评估