Kimi K3 in C
NEW在单 CPU 上运行 2.78T 参数 Kimi K3 MoE 模型，仅需 8.24 GB RAM。纯 C99 实现，支持 MXFP4 权重量化、trunk streaming 和 routed-expert LRU 缓存。Apache 2.0 许可。
🎯适用场景：在资源受限环境运行超大 MoE 模型推理
#local-inference#MoE#C99#CPU-inference#Kimi-K3#开源
📥 收录于 2026/8/4
📊 仓库数据
Stars1,671
Forks282
语言C
协议Apache-2.0
上线2026/8/1
更新2026/8/4
📈 Stars 变化 ↑2 天 +2· 统计区间 8/2 19:27 → 8/4 23:08（2 天）
✅ 优点
- •单 CPU 运行 2.78T 模型
- •仅需 8.24 GB RAM
- •纯 C99 可移植
- •MXFP4 量化 + trunk streaming
⚠️ 限制
- •仅支持 greedy 采样
- •无 GPU 加速
- •无 HTTP API