UMAP

UMAP 的核心目标是在极大压缩维度的同时，尽量保持数据点之间的相对拓扑关系。

• 非线性：与 PCA（线性）不同，UMAP 可捕捉数据中的弯曲流形结构，对复杂分布效果更好。
• 速度优势：相比同类算法 t-SNE，UMAP 在大规模数据集上训练速度通常快 5–10 倍以上。
• 可扩展性：支持 GPU 加速（cuML 实现），百万级样本也可在分钟级完成降维。
• 用途广泛：常见于 NLP Embedding 可视化、单细胞 RNA 测序分析、图像特征探索和聚类预检验。

UMAP 分两个主要阶段：构建高维模糊拓扑图，再优化低维嵌入。

• 局部邻域图构建：对每个数据点，以 k 近邻（k-NN）为基础，用黎曼度量估计局部曲率，将数据点之间的相似度建模为模糊单纯集（fuzzy simplicial sets）上的有向边权重。
• 跨点归一化：将有向图对称化，得到一个反映全局拓扑关系的无向加权图。
• 低维优化：在低维空间随机初始化嵌入，通过随机梯度下降（SGD）最小化高维图与低维图之间的交叉熵，使两侧拓扑结构尽量吻合。
• 关键超参数：n_neighbors（邻居数，越大越重视全局结构）、min_dist（嵌入点的最小间距，越小聚类越紧凑）、metric（距离度量，支持欧氏、余弦等多种选项）。

UMAP 常与 PCA 和 t-SNE 放在一起比较，三者定位不同。

• UMAP vs PCA：PCA 是线性投影，速度极快但无法表达非线性结构；UMAP 可捕捉弯曲流形，但结果不可直接解释为方差贡献。
• UMAP vs t-SNE：t-SNE 同样保留局部结构，但不保留全局距离，且不支持将新点投影到已有嵌入（inductive 推断）；UMAP 支持 transform() 对新数据直接推断，速度也更快，对全局结构保留更优。
• UMAP vs 自编码器：自编码器需要训练神经网络，更灵活但成本高；UMAP 是无监督直接算法，无需反向传播。

UMAP 在 AI/ML 全链路均有落地。

• LLM Embedding 诊断：将 text-embedding 模型输出的向量可视化，检验语义聚类是否合理。
• 生物信息学：单细胞 RNA 测序（scRNA-seq）中，UMAP 已成为细胞类型识别的标配可视化工具，广泛替代了早期的 t-SNE。
• 数据质量检验：训练集中的异常点、重复簇、类别不平衡在 UMAP 图上往往一目了然。
• 聚类辅助：与 HDBSCAN 配合使用（先 UMAP 降维，再 HDBSCAN 聚类）是当前流行的无监督分析流程。
• 多模态对齐验证：检查图文对齐模型（如 CLIP）的图像嵌入与文本嵌入是否形成对应的近邻关系。

UMAP 的可视化结果直观，但存在几类常见误读。

• 距离不可直接量化：UMAP 低维空间中两点的欧氏距离不能直接反映原始高维空间中的实际距离，跨簇距离尤其不可靠。
• 随机性：结果受 random_state 种子影响，不同运行可能产生镜像或旋转后的布局，需固定种子保证复现。
• 超参数敏感：n_neighbors 过小会导致过碎的局部簇，过大则全局结构模糊，需根据数据规模调整。
• 不保留密度信息：簇的大小在 UMAP 图上无直接物理意义，不能据此判断样本数量多少。
• 非确定性结论：UMAP 图只能辅助探索，不能替代统计检验或定量评估。

UMAP 从理论提出到广泛工程应用经历了数年迭代。

• 2018：Leland McInnes、John Healy、Nathaniel Saul、Lukas Großberger 在 arXiv 发布原始论文（arXiv:1802.03426），以代数拓扑和黎曼几何框架严格推导降维目标函数。
• 2018：Python 包 umap-learn 正式发布，借助 Numba JIT 编译实现高性能计算，API 与 scikit-learn 兼容；同年论文亦发表于 Journal of Open Source Software。
• 2019–2020：生物信息学社区（尤其 Scanpy 生态）大规模采用 UMAP 替代 t-SNE，成为单细胞数据分析标配。
• 2021：RAPIDS cuML 提供 GPU 加速实现，单节点可处理千万级数据点。
• 2022–2024：随着大模型 Embedding 普及，UMAP 成为向量空间诊断工具的标配，常见于 LLM 评测与 RAG 系统调试流程中。