Claude BugHunter

开源 AI 安全黑客工具——自动发现并修复应用漏洞。基于 LLM 的智能渗透测试平台，能自主分析代码、识别安全漏洞并生成修复建议。25K+ stars，是 AI + 网络安全交叉领域的新标杆

🎯AI 安全与合规防护、自动化漏洞扫描与修复

全栈 AI 红队测试平台，3.7K+ stars。腾讯安全出品，覆盖 OpenClaw 安全扫描、Agent 扫描、Skills 扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估，是 AI 安全领域的综合性红队工具

🎯MCP 工具协议集成、AI 安全与合规防护

CVS Health 出品的 LLM 幻觉检测工具，1200+ stars。基于不确定性量化的语言模型幻觉检测 Python 包，提供置信度评分和幻觉缓解策略，是 AI 安全与合规的重要工具

🎯LLM 输出可靠性检测，AI 安全合规审计，模型评估

GPT Jailbreak Status 追踪 OpenAI GPT 系列模型的安全漏洞和越狱状态。定期更新最新越狱方法和修复情况，帮助开发者和安全研究人员了解模型安全态势。

🎯AI 安全研究、模型漏洞追踪、安全评估参考

Google 开源的 15 阶段 AI 漏洞挖掘自动化流水线。将 AI 应用于安全测试的系统化工程实践，支持自动化漏洞发现、复现和修复建议。模块化设计，支持多种 AI Agent 集成。

🎯AI 驱动的自动化漏洞挖掘——15 阶段流水线，从代码分析到漏洞复现全流程自动化

YC S26 背书的 AI 应用全公司安全监控工具。为企业提供 AI 应用层的安全监控、威胁检测和合规审计能力。HN 43 分。

🎯AI 应用安全监控——企业级 AI 部署的安全威胁检测与合规审计