RadixAttention

RadixAttention 的核心数据结构是基数树（Radix Tree），也称为压缩前缀树（Compressed Prefix Tree）。基数树的每个节点代表一个 Token 序列，边代表 Token，从根节点到任意节点的路径代表一个前缀。

当请求到达时，SGLang 的 Scheduler 调用 match_prefix 方法，在基数树中查找与请求前缀匹配的最长路径。如果找到匹配，Scheduler 从匹配点开始计算 KV Cache，而非从位置 0 开始。

基数树的插入和删除操作是 O(k) 复杂度（k 是前缀长度），远优于暴力匹配的 O(n*k)。RadixAttention 的缓存策略是 LRU（Least Recently Used），当显存不足时，淘汰最久未使用的缓存节点。

RadixAttention 是完全自动的——无需配置，无需手动标记前缀，SGLang 自动检测共享前缀并缓存。

2026 年的基准测试显示，RadixAttention 在前缀重叠率高的场景中显著优于 vLLM 的 PagedAttention。Spheron 2026 年 5 月的测试：在聊天机器人场景（共享系统提示词 + 对话历史），SGLang 的 TTFT 比 vLLM 低 30-50%，吞吐量相当。

在 Agent 场景（共享系统提示词 + 工具定义 + 多轮对话），SGLang 的 TTFT 比 vLLM 低 5-10 倍，缓存命中率 75-95%。

Morph 2026 年 6 月的测试：SGLang v0.4.3 在 H100 上达到 16,200 tokens/s 吞吐量，与 LMDeploy 并列开源引擎最高水平。

RadixAttention 的局限：在前缀重叠率低的场景（如单次长文本生成），RadixAttention 的优势不明显，因为缓存命中率低。此时 vLLM 的 PagedAttention 更合适，因为 PagedAttention 专注于解决显存碎片问题，而非前缀重复计算。

RadixAttention 和 PagedAttention 是两种不同的 KV Cache 优化策略，解决不同的问题。

PagedAttention（vLLM 的核心创新）解决显存碎片问题：通过将 KV Cache 切分为固定大小的页（通常 16 Token 一页），使用页表映射到不连续的显存块，消除内部碎片和外部碎片，显存利用率从 20-40% 提升到 90%+。

RadixAttention（SGLang 的核心创新）解决前缀重复计算问题：通过基数树索引共享前缀的 KV Cache，避免重复计算相同前缀的 KV 激活，降低 TTFT。两者可以结合使用：SGLang 实际上同时使用了 RadixAttention 和分页管理。

选型建议：如果工作负载有大量共享前缀（RAG、多轮对话、Agent 系统），选择 SGLang（RadixAttention）；如果工作负载是单次长文本生成（前缀重叠率低），选择 vLLM（PagedAttention）；如果两者都有，SGLang 是更安全的选择，因为它同时支持两种优化。