omlx

开源LLM 运行时15k↑+22

Apple Silicon 专用 LLM 推理服务器,支持连续批处理和 SSD 缓存,从 macOS 菜单栏管理。为 Mac 用户提供了一键式 LLM 本地部署方案,14K+ stars

#Apple Silicon#本地推理#macOS#SSD 缓存

📊 仓库数据

Stars14,675
Forks1,233
语言Python
更新2026/5/20

📈 上次抓取以来 ↑+22

优点

  • GitHub 15K+ stars,持续成长
  • 支持本地部署
  • 上手简单
  • Python 生态友好

⚠️ 限制

  • 需要 Python 环境
  • 学习曲线较陡
  • 文档可能需要完善

🔗 相关工具

Ollama

开源172k↑+15

github.com/ollama/ollama

本地运行开源大语言模型的最简方案,支持 Llama、Qwen、DeepSeek 等主流模型,一键安装、自动下载模型、提供 OpenAI 兼容 API,是 AI 开发者本地部署的首选工具

🎯 本地运行开源 LLM、离线 AI 开发、模型测试

#本地部署#开源模型#API
语言Go
🍴 Forks16,194
📅 上线2023/6/26
🔄 更新2026/5/20
访问工具 →

gpt4free

开源66k

github.com/xtekky/gpt4free

多模型免费访问平台,66,037+ stars。提供多种大语言模型的免费访问接口,包括 GPT-4、Claude、Gemini 等主流模型的聚合调用方案

🎯 模型对比测试、低成本 AI 体验、学习和研究用途

#免费模型#API聚合#多模型#开源
语言Python
🍴 Forks13,587
📅 上线2023/3/29
🔄 更新2026/5/20
访问工具 →

LocalAI

开源46k↑+9

github.com/mudler/LocalAI

开源本地 AI 引擎,45,607+ stars。完全兼容 OpenAI API 的本地 AI 推理引擎,支持 LLM、语音识别、图像生成等多种模型,数据完全本地处理保护隐私

🎯 隐私敏感场景、离线 AI 应用、本地模型部署、开发测试环境

#本地部署#隐私保护#OpenAI 兼容#多模型
语言Go
🍴 Forks4,094
📅 上线2023/3/18
🔄 更新2026/5/20
访问工具 →

Kronos

开源25k↑+25

github.com/shiyu-coder/Kronos

面向金融市场的 Foundation Model,将金融市场语言建模为序列预测问题。支持金融时间序列分析、市场趋势预测和量化交易策略生成。由 shiyu-coder 团队开发,GitHub 20K+ 星,周增 3200+ 星,是金融 AI 领域增长最快的项目之一。采用类 Transformer 架构处理结构化金融数据,可对接主流交易 API。

🎯 金融市场分析、量化策略生成、时间序列预测、投资组合优化

#金融 AI#时间序列预测#量化交易#Foundation Model+1
语言Python
🍴 Forks4,438
📅 上线2025/10/8
🔄 更新2026/5/20
访问工具 →

LLM CLI

免费12k↑+3

github.com/simonw/llm

Simon Willison 出品的命令行 LLM 工具,支持 OpenAI、Anthropic、Google、LocalAI 等数十种模型。最新版本 0.31(2026 年 4 月)新增 GPT-5.5 支持、verbosity 文本详细度参数和 image_detail 图像细节参数。是 AI 开发者在终端中快速测试不同模型、比较输出的首选工具。MIT 协议开源,21K+ stars,社区活跃度高。

🎯 模型对比测试、快速原型验证、自动化脚本集成、CI/CD 中的 AI 检查

#CLI 工具#多模型#终端#OpenAI+3
语言Python
🍴 Forks849
🔄 更新2026/5/20
访问工具 →

KrillinAI

免费10k↑+1

github.com/krillinai/krillinai

视频翻译配音工具,10K+ stars。由 LLM 驱动的视频翻译和配音工具,支持多语种视频翻译和配音生成

#dubbing#localization#tts#video-transcription+1
语言Go
🍴 Forks938
📅 上线2024/12/17
🔄 更新2026/5/20
访问工具 →