AI Infra Guard

开源推理 & 评测3.8k↑+1

全栈 AI 红队测试平台,3.7K+ stars。腾讯安全出品,覆盖 OpenClaw 安全扫描、Agent 扫描、Skills 扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估,是 AI 安全领域的综合性红队工具

🎯适用场景:AI 系统安全审计、红队测试、MCP 安全检查、LLM 越狱防护评估

#AI 安全#红队测试#越狱评估#MCP 安全

📊 仓库数据

Stars3,753
Forks368
语言Python
协议Apache-2.0
更新2026/5/20

📈 上次抓取以来 ↑+1

优点

  • 全栈覆盖 AI 安全各层
  • 腾讯安全出品可信
  • MCP 协议安全扫描
  • LLM 越狱评估

⚠️ 限制

  • 项目较新生态待完善
  • 需要安全领域知识使用
  • 报告生成能力待增强

🔗 相关工具

Promptfoo

开源21k↑+3

github.com/promptfoo/promptfoo

LLM 安全测试和红队评估工具,支持 prompt injection 检测、数据泄漏测试、输出评估,10,000+ stars

🎯 LLM 安全评估、红队测试

#LLM 安全#红队测试#Prompt 评估#安全审计
语言TypeScript
🍴 Forks1,875
📅 上线2023/4/28
🔄 更新2026/5/20
访问工具 →

vLLM

开源81k↑+19

github.com/vllm-project/vllm

高吞吐 LLM 推理引擎,77,418+ stars。采用 PagedAttention 显存优化技术,吞吐量比 HuggingFace Transformers 高 24 倍,是生产环境部署大模型推理的首选方案,支持 OpenAI 兼容 API

🎯 生产环境 LLM 推理服务、高并发 API 服务、模型部署优化

#推理引擎#高性能#PagedAttention#生产部署
语言Python
🍴 Forks17,007
📅 上线2023/2/9
🔄 更新2026/5/20
访问工具 →

Netdata

开源79k↑+3

github.com/netdata/netdata

AI 全栈可观测性平台,78,515+ stars。实时监控服务器性能、应用指标和网络流量,内置 AI 异常检测引擎,自动发现并预警系统问题。零配置、开箱即用,每秒采集数千指标,是最轻量的基础设施监控方案。

🎯 服务器监控、应用性能观测、AI 驱动的异常预警、基础设施运维

#可观测性#监控#AI 异常检测#基础设施
语言C
🍴 Forks6,442
📅 上线2016/8/1
🔄 更新2026/5/20
访问工具 →

RTK

开源52k↑+217

github.com/rtk-ai/rtk

CLI 代理层,减少 60-90% 的 LLM token 消耗。Rust 编写的单二进制文件,零依赖,支持 Claude Code、Codex、Cursor 等主流 AI 编码工具。通过本地代理缓存和智能去重,大幅降低日常开发中的 token 成本

🎯 AI 编码工具 token 成本优化、日常开发中的智能缓存

#Token 优化#CLI#Rust#编码工具
语言Rust
🍴 Forks3,145
📅 上线2026/1/22
🔄 更新2026/5/20
访问工具 →

LiteLLM

开源48k↑+28

github.com/BerriAI/litellm

100+ LLM API 统一 SDK,48K+ stars。统一的 LLM API 代理和 SDK,支持 OpenAI、Claude、Gemini 等所有主流模型,一个接口调用所有模型,是 AI 编码的瑞士军刀

🎯 多模型统一接入、LLM 网关、成本优化、高可用 AI 服务架构

#LLM 代理#API 统一#多模型#企业级
语言Python
🍴 Forks8,202
📅 上线2023/7/27
🔄 更新2026/5/20
访问工具 →

Kong API Gateway

开源43k↑+1

github.com/kong/kong

Magicrew 开源 AI 生产力平台,5.2K+ stars。首个开源全合一 AI 生产力平台,集成多种 AI 工具和工作流

🎯 LLM 统一接入网关、AI 服务路由与限流、MCP 协议网关、企业 API 管理

#AI Gateway#API 网关#LLM 路由#MCP Gateway+1
语言Lua
🍴 Forks5,141
📅 上线2014/11/17
🔄 更新2026/5/20
访问工具 →