LLM Guard
ProtectAI 出品的 LLM 交互安全工具包，提供输入输出双重防护、敏感信息检测、Prompt 注入防御和对抗攻击检测，覆盖 LLM 全链路安全防护
🎯适用场景：LLM 应用的 Prompt 注入防御、敏感内容过滤、安全合规审计
📥 收录于 2026/6/4
📊 仓库数据
✅ 优点
- •输入输出双向防护覆盖全面的安全场景
- •开源可自部署，数据不出本地
⚠️ 限制
- •检测规则配置较细粒度，初始调优需要时间
- •部分检测模型有一定推理开销
🔗 相关工具
AI Red Teaming Playground Labs
github.com/microsoft/AI-Red-Teaming-Playground-Labs
微软官方 AI 红队训练演练场，提供完整的训练基础设施和场景化练习环境，帮助团队学习 AI 安全测试和红队评估的最佳实践
🎯AI 安全团队红队训练、Prompt 注入攻防演练、安全评估能力建设
Front-End Checklist
github.com/thedaviddias/Front-End-Checklist
现代 Web 开发必备清单，72.8K+ stars。涵盖 HTML、CSS、JavaScript、性能、安全、可访问性等方方面面。已被众多 AI Agent 用作代码审查参考标准
🎯前端开发质量检查、AI 代码审查参考
shannon
github.com/KeygraphHQ/shannon
自主白盒 AI 渗透测试工具，分析源代码、识别攻击向量并执行真实漏洞验证，在上线前发现安全风险。
🎯Web 应用和 API 上线前的自动化安全审计和渗透测试
CL4R1T4S
github.com/elder-plinius/CL4R1T4S
开源 AI 系统提示词透明度项目，收集并公开 ChatGPT、Claude、Gemini、Grok 等主流 AI 模型的核心系统提示词，帮助开发者理解大模型的底层行为逻辑。（26K+ stars）
🎯大模型行为研究、Prompt 工程参考、AI 安全性分析、提示词优化学习
Fabric
github.com/danielmiessler/Fabric
AI 增强人类框架，40,738+ stars。提供 200+ 个精心设计的 Prompt Pattern，覆盖分析、写作、决策、安全等场景。核心理念是 AI 不是替代人类，而是增强人类能力。
🎯AI 安全与合规防护
Strix
github.com/usestrix/strix
开源 AI 安全黑客工具——自动发现并修复应用漏洞。基于 LLM 的智能渗透测试平台，能自主分析代码、识别安全漏洞并生成修复建议。25K+ stars，是 AI + 网络安全交叉领域的新标杆
🎯AI 安全与合规防护、自动化漏洞扫描与修复
