Awesome LLM Inference

LLM/VLM 推理技术精选列表,5.3K+ stars。涵盖 Flash-Attention、Paged-Attention、量化、并行推理等核心推理优化技术的论文和代码合集

🎯适用场景:学习 LLM 推理优化——了解如何让大模型推理更快、更省显存。

#LLM 推理#Flash-Attention#量化#并行推理

📥 收录于 2026/6/9

📊 仓库数据

Stars5,279
Forks385
语言Python
更新2026/6/10

📈 Stars 变化 6 小时 -1· 统计区间 6/10 00:13 → 6/10 06:16(6 小时)

优点

  • 覆盖推理优化全技术栈
  • 持续更新,紧跟最新论文
  • 分类清晰,适合系统性学习

⚠️ 限制

  • 偏学术向,缺少工程实践指南
  • 部分论文无官方代码实现

🔗 相关工具

Awesome LLM Apps

开源114k+25

github.com/shubhamsaboo/awesome-llm-apps

100+ 可运行的 AI Agent & RAG 应用合集,106,546+ stars。涵盖聊天机器人、文档分析、代码助手、搜索增强等多种场景,每个项目都有完整代码和部署指南,是学习和实践的宝库

🎯AI 技术学习与研究参考

#应用合集#RAG#智能体#实战项目
语言Python
🍴 Forks16,927
📅 上线2024/4/29
🔄 更新2026/6/10
📥 收录2026/4/20

Awesome-design-md

开源89k+39

github.com/VoltAgent/awesome-design-md

设计系统最佳实践合集,82K+ stars。以 Markdown 格式整理了 UI/UX 设计原则、组件库规范、设计令牌指南等,是设计师和前端开发者的实用参考

🎯UI/UX 设计参考、前端组件规范制定、设计系统建设

#awesome-list#design-md#design-system#design-tokens+1
🍴 Forks10,589
🔄 更新2026/6/10
📥 收录2026/5/22

Awesome Claude Code

开源46k+16

github.com/hesreallyhim/awesome-claude-code

Claude Code 技能和工具合集精选列表,38,700+ stars,收录最佳扩展、技能包和工作流

🎯AI 工作流编排与自动化

#Claude Code#技能合集#扩展#38.7k stars
语言Python
🍴 Forks4,009
📅 上线2025/4/20
🔄 更新2026/6/10
📥 收录2026/4/15

Awesome CursorRules

开源40k

github.com/patrickjs/awesome-cursorrules

Cursor AI 编辑器的规则集合——汇集大量针对各种框架和语言的自定义规则配置文件,提升 Cursor 编程体验。

🎯Cursor 编辑器增强——为不同框架和语言加载定制规则,让 AI 编程助手更懂你的技术栈

#Cursor#编辑器规则#代码生成#AI 辅助编程
语言JavaScript
🍴 Forks3,411
🔄 更新2026/6/10
📥 收录2026/5/28

Awesome Generative Ai Guide

开源27k+3

github.com/aishwaryanr/awesome-generative-ai-guide

生成式 AI 指南,4.9K+ stars。生成式 AI 研究更新、工具和资源的一站式资源库,涵盖最新进展和实用工具

🎯AI 技术选型与学习参考、AI 技术学习与实践教程

#精选资源#awesome-list#生成式 AI#interview-questions+1
语言HTML
🍴 Forks5,687
📅 上线2024/2/7
🔄 更新2026/6/10
📥 收录2026/5/20

Awesome-Chinese-LLM

开源23k

github.com/AiHubCN/Awesome-Chinese-LLM

整理开源的中文大语言模型,以规模较小、可私有化部署、训练成本较低的模型为主,包括底座模型,垂直领域微调及应用,数据集与教程等。

🎯中文 LLM 选型参考和私有化部署指南

#awesome-lists#chatglm#chinese#llama
语言N/A
🍴 Forks2,132
📅 上线2023/5/22
🔄 更新2026/6/10
📥 收录2026/5/25