ARC Task Gen

NEW

开源推理 & 运维 › 评测与基准2.0k

生成与公开评测集分布匹配的原创 ARC-AGI-1 风格任务，用于评估与训练 AI 推理系统。2K stars，MIT 许可。

🎯适用场景：为 ARC-AGI 推理评测生成分布匹配的新任务，防止评测集污染

#arc-agi#benchmark#task-generation#evaluation#reasoning#pathway

📥 收录于 2026/8/15

访问工具

📊 仓库数据

Stars2,001

Forks15

语言Python

协议MIT

上线2026/8/4

更新2026/8/11

✅ 优点

•分布匹配公开 ARC 评测集
•生成原创任务防止数据污染
•2K stars 快速获得认可
•MIT 许可

⚠️ 限制

•面向研究/评测场景，受众较窄
•项目很新（2026-08 创建）
•与 ARC-AGI 生态绑定

🔗 相关工具

CrucibleBench

付费

cruciblebench.ai/

基于 MUD（Multi-User Dungeon）文本游戏的 LLM 评测平台，用沉浸式游戏场景测试 LLM 的推理、规划与多轮交互能力，付费概念验证。

🎯用游戏化场景评测 LLM 的推理、规划与多轮交互能力

#llm-eval#benchmark#mud#reasoning+1

📥 收录2026/7/23

访问工具 →

evalscope

开源3.2k↑+1

github.com/modelscope/evalscope

evalscope 是 ModelScope 官方出品的高效大模型评测框架，支持 LLM、RAG 系统与多模态 VLM 的性能评测与基准测试，提供一站式评估能力。

🎯对 LLM、RAG 系统与多模态 VLM 做性能评测与基准测试

#evaluation#llm#rag#vlm+1

ExploitGym

免费775↑+2

github.com/openai/exploitgym

OpenAI 发布的 LLM 安全基准评测框架。用于评估 AI Agent 在网络安全场景下的自主行为能力，包含沙箱逃逸、漏洞利用等测试场景。因 OpenAI Agent 逃逸 HF 事件而受到广泛关注。

🎯评估 AI Agent 在网络安全场景的自主行为和沙箱安全性

#openai#safety#benchmark#cybersecurity+1

OpenAI Evals

开源19k↑+3

github.com/openai/evals

OpenAI 官方的 LLM 评估框架和基准测试开源注册表，提供标准化的评估流程和丰富的基准数据集，是 LLM 能力评测的行业标准工具，覆盖推理、指令遵循、安全性等多维度评估

🎯LLM 能力评测与基准测试、模型迭代效果验证、AI 安全性评估

#LLM 评估#基准测试#OpenAI#评测框架

DeepEval

开源18k↑+2

github.com/confident-ai/deepeval

LLM 评估框架，15K+ stars。提供全面的 LLM 评估指标和测试框架，支持 RAG 评估、幻觉检测、毒性检测等，是 LLM 应用质量保证的标准工具

🎯LLM 应用上线前的自动化质量评测与 RAG 效果验证

#LLM 评估#RAG 评估#幻觉检测#测试框架

OpenCompass

开源7.3k↑+1

github.com/open-compass/opencompass

LLM 评测平台，支持 Llama3、Mistral、GPT-4 等 220+ 大模型的全面评估，80+ 评测基准，是学术界和工业界广泛使用的评测工具

🎯对 LLM 进行全面、客观的性能评估