Chain-of-Thought(CoT)

「让 AI 一步步想」

亦作、亦称:CoT · 思维链

引导模型输出中间推理步骤,提升复杂逻辑与数学任务的准确率。 CoT 对数学、逻辑题提升明显,但会增加输出 token 与延迟,生产环境需权衡。

工作原理

Chain-of-Thought的核心机制可概括为:引导模型输出中间推理步骤,提升复杂逻辑与数学任务的准确率。在工程实现中,它常与 prompt、llm 等方向的技术栈配合——训练阶段从数据中学习可泛化表示,推理阶段在固定参数下完成前向计算。 CoT 对数学、逻辑题提升明显,但会增加输出 token 与延迟,生产环境需权衡。选型时需对齐评测指标、算力预算与数据分布,避免「论文有效、上线失效」。

应用场景

Chain-of-Thought的典型落地场景包括:提示工程、少样本构造、角色设定与输出约束。从 PoC 到生产通常经历:明确业务指标 → 构建评测集 → 小规模试点 → 监控延迟/成本/质量三角 → 灰度放量。与通用大模型组合时,常作为专项模块(检索、对齐、加速、安全)而非孤立功能。

局限与误区

围绕 Chain-of-Thought 的常见误解多来自口语化简称(见「人们怎么说」)。实际上:效果高度依赖数据质量与任务匹配;在开放域场景可能出现幻觉、偏见或越权行为;监管与隐私要求可能限制部署方式。关键系统应配置拒答策略、人工复核与可回滚方案,而非假设模型「总能理解意图」。

背景与发展

Chain-of-Thought伴随深度学习、预训练大模型与 Agent 工程化浪潮持续演进,学术界与工业界在定义边界、评测方法与最佳实践上仍在快速迭代。理解其来龙去脉有助于判断技术成熟度:优先查阅原始论文、官方技术报告与主流开源实现,再对照本站的延伸阅读文章建立体系化认知。

人们怎么说

日常交流里常听到的说法——未必准确,但有助于理解误解从哪来。

  • 「让 AI 一步步想」
  • 「写出推理过程」
  • 「Let's think step by step」

参见

延伸阅读

从知识库精选 2 篇文章,帮助深入理解该术语。

  1. 1

    高级 Prompt 工程技术:Chain-of-Thought、Few-Shot 与结构化提示词的深度实践

    从基础的提示词编写到高级推理策略的系统性进阶。深入解析 Chain-of-Thought(思维链)、Few-Shot Learning(少样本学习)、Self-Consistency(自一致性)、ReAct 推理框架、Tree of Thoughts 等高级 Prompt 技术,配以 Python 可运行代码和实战对比实验,帮助开发者构建生产级 Prompt 系统。

  2. 2

    LLM 系统性泛化:为什么模型会「举一反三」却「无法触类旁通」

    深度解读 2026 年最新研究:LLM 在空间迁移上表现优异但在长度缩放上一致失败——揭示递归不稳定性的本质,以及数据覆盖、强化学习、推理时缩放各自的能力边界