DeepSWE

OpenAI 官方的 LLM 评估框架和基准测试开源注册表，提供标准化的评估流程和丰富的基准数据集，是 LLM 能力评测的行业标准工具，覆盖推理、指令遵循、安全性等多维度评估

🎯LLM 能力评测与基准测试、模型迭代效果验证、AI 安全性评估

LLM 评测平台，支持 Llama3、Mistral、GPT-4 等 220+ 大模型的全面评估，80+ 评测基准，是学术界和工业界广泛使用的评测工具

🎯对 LLM 进行全面、客观的性能评估

非线智能中文大模型能力评测：覆盖 374+ 大模型，包括 ChatGPT、Claude、Gemini、文心一言等持续排名

🎯对比和追踪主流中文/多语言大模型的能力排名

RAG 自动化优化框架，4.7K+ stars。开源的 RAG 评估与优化框架，采用 AutoML 风格自动化调优 RAG 管道的各个组件（分块、嵌入、检索、生成等）

🎯RAG 管道组件选型与超参搜索，提升检索问答准确率

一站式多模态评估工具包，覆盖文本、图像、视频和音频任务的统一评测。支持主流多模态模型的基准测试和性能对比，是 ML 研发的质量保障基础设施。4.2K+ stars

🎯多模态模型评测与 benchmark、ML 模型质量保障

大规模文本嵌入模型基准测试套件，覆盖信息检索、聚类、双语文本挖掘等多个 NLP 任务，是评估嵌入模型质量的标准工具。

🎯评估和比较不同嵌入模型在多种 NLP 任务上的表现