vLLM Omni
基于 vLLM 的多模态高效推理框架，支持 Omni 模态模型的部署和推理优化，扩展了 vLLM 的能力边界。
🎯适用场景：多模态模型高效推理——适合需要部署视觉/音频等多模态大语言模型的场景
📥 收录于 2026/5/28
📊 仓库数据
✅ 优点
- •vLLM 生态扩展
- •多模态推理优化
- •4.8K stars 快速增长
- •开源免费
⚠️ 限制
- •项目较新生态不完善
- •依赖 vLLM 主版本
- •多模态支持仍在发展中
🔗 相关工具
Transformers
github.com/huggingface/transformers
Hugging Face 核心模型库，159,648+ stars。支持 200K+ 预训练模型，覆盖 NLP、计算机视觉、音频、多模态等全领域，提供统一 API 接口，是 AI 开发者的必备基础设施
🎯多模型 API 统一接入与路由
NVIDIA NeMo
github.com/NVIDIA-NeMo/NeMo
NVIDIA 可扩展生成式 AI 框架，17K+ stars。专为 LLM、多模态和语音 AI（ASR + TTS）研究者和开发者设计，是 NVIDIA 生态中训练和部署大模型的标准框架
🎯企业级 LLM/语音模型训练、微调与 NVIDIA 栈部署
Ludwig
github.com/ludwig-ai/ludwig
低代码 AI 开发框架，11.7K+ stars。Meta（原 Uber）开源的声明式机器学习平台，通过 YAML 配置即可训练自定义 LLM、神经网络和多模态模型，无需编写训练代码
🎯LLM 应用快速开发
LangChain
github.com/langchain-ai/langchain
最流行的 LLM 应用开发框架，137K+ stars。提供链式编排、RAG 检索增强生成、Agent 构建等核心能力，覆盖 Python 和 JavaScript 双语言生态，是构建 LLM 应用的基础设施
🎯LLM 应用快速开发
Supabase
github.com/supabase/supabase
Postgres 开发平台，101,199+ stars。开源 Firebase 替代方案，内置向量数据库支持 pgvector，是构建 AI 应用（RAG、Agent）的理想后端基础设施。提供实时数据库、认证、存储、Edge Functions 等全栈能力。
🎯LLM 应用快速开发
immich
github.com/immich-app/immich
高性能自托管照片视频管理，5.5K+ stars。高性能自托管照片和视频管理方案，支持 AI 人脸识别、场景分类和智能搜索
🎯LLM 应用快速开发