fastai

开源LLM 运行时28k

The fastai deep learning library – making neural net training accessible — fastai 深度学习库,基于 PyTorch 的高层 API,让神经网络训练变得简单易用,适合入门者和研究者

🎯适用场景:基于 PyTorch 的高层深度学习框架,适合快速原型开发和深度学习入门学习

#deep-learning#pytorch#gpu

📥 收录于 2026/6/5

📊 仓库数据

Stars28,021
语言Jupyter Notebook
更新2026/6/5

优点

  • 高层 API 简洁易用,2.8万+ stars
  • 配套教程和社区资源丰富
  • 基于 PyTorch,迁移成本低

⚠️ 限制

  • 功能相对 PyTorch 原生 API 受限
  • 大规模生产环境使用较少

🔗 相关工具

Ollama

开源173k↑+16

github.com/ollama/ollama

本地运行开源大语言模型的最简方案,支持 Llama、Qwen、DeepSeek 等主流模型,一键安装、自动下载模型、提供 OpenAI 兼容 API,是 AI 开发者本地部署的首选工具

🎯生产环境模型推理服务

#本地部署#开源模型#API
语言Go
🍴 Forks16,447
📅 上线2023/6/26
🔄 更新2026/6/5
📥 收录2026/4/13

gpt4free

开源66k↑+2

github.com/xtekky/gpt4free

多模型免费访问平台,66,037+ stars。提供多种大语言模型的免费访问接口,包括 GPT-4、Claude、Gemini 等主流模型的聚合调用方案

🎯本地模型运行与推理服务

#免费模型#API聚合#多模型#开源
语言Python
🍴 Forks13,578
📅 上线2023/3/29
🔄 更新2026/6/5
📥 收录2026/4/20

LocalAI

开源47k↑+4

github.com/mudler/LocalAI

开源本地 AI 引擎,45,607+ stars。完全兼容 OpenAI API 的本地 AI 推理引擎,支持 LLM、语音识别、图像生成等多种模型,数据完全本地处理保护隐私

🎯生产环境模型推理服务、多模态内容理解与生成

#本地部署#隐私保护#OpenAI 兼容#多模型
语言Go
🍴 Forks4,135
📅 上线2023/3/18
🔄 更新2026/6/5
📥 收录2026/4/20

New API

开源37k↑+43

github.com/QuantumNous/new-api

统一的 AI 模型网关,支持聚合和分发各类 LLM API。自动转换为 OpenAI/Claude/Gemini 兼容格式,是 LLM 路由与统一接入的集中式网关方案。36K+ stars。

🎯多 LLM 模型统一接入、API 路由聚合、LLM 服务分发网关

#ai-gateway#llm-routing#openai#claude+1
语言Go
🍴 Forks8,429
🔄 更新2026/6/5
📥 收录2026/6/3

Kronos

开源28k↑+21

github.com/shiyu-coder/Kronos

面向金融市场的 Foundation Model,将金融市场语言建模为序列预测问题。支持金融时间序列分析、市场趋势预测和量化交易策略生成。由 shiyu-coder 团队开发,GitHub 20K+ 星,周增 3200+ 星,是金融 AI 领域增长最快的项目之一。采用类 Transformer 架构处理结构化金融数据,可对接主流交易 API。

🎯金融时间序列预测、量化交易策略生成、市场趋势分析

#金融 AI#时间序列预测#量化交易#Foundation Model+1
语言Python
🍴 Forks4,924
📅 上线2025/10/8
🔄 更新2026/6/5
📥 收录2026/4/21

llamafile

开源25k↑+2

github.com/mozilla-ai/llamafile

用单个可执行文件分发和运行大型语言模型,支持跨平台本地推理的轻量级方案,无需复杂环境配置即可快速启动 AI 模型

🎯本地运行 LLM 的轻量级方案

#local-llm#inference#cross-platform#gguf
语言C++
🍴 Forks1,369
🔄 更新2026/6/4
📥 收录2026/5/31