哥德尔智能体（Gödel Agent）

哥德尔在 1931 年用自指证明了不完备性定理：任何足够强的一致形式系统都包含无法在系统内证明的真命题。这一结果震动了整个数学界。2003 年，Jürgen Schmidhuber 将自指思想引入 AI 领域，提出哥德尔机概念——一个能通过数学证明来优化自身代码的通用计算系统。

哥德尔机与 Marcus Hutter 的 AIXI 并列为通用人工智能的形式化规范，但哥德尔机更强调「可证明的自改进」：只有当系统能证明新代码优于当前代码时才执行修改。这一理论在 20 年间受限于计算能力，直到 LLM 能够理解和生成复杂代码，才终于有了落地土壤。

Gödel Agent 的架构围绕一个核心问题设计：如何让 LLM Agent 安全地修改自己的代码？框架采用三层自指结构。第一层是执行层（Execution Layer），包含工具调用逻辑、推理链生成和输出格式化——这是 Agent 的「手脚」。

第二层是策略层（Strategy Layer），决定何时使用什么工具、如何组合推理步骤——这是 Agent 的「大脑」。第三层是元策略层（Meta-Strategy Layer），负责修改策略层本身的逻辑——这是 Agent 的「元认知」。每一层都可以被上一层读取、分析和修改，形成递归自改进闭环。

关键创新是「验证门控」机制：任何代码修改都必须通过形式化或经验性验证，确保修改确实提升了性能，防止无限递归导致系统崩溃。

在数学推理（GSM8K、MATH 等基准）和复杂 Agent 任务（WebShop、ALFWorld 等）上，Gödel Agent 持续超越手工设计的 Agent 系统。更关键的是，随着迭代轮次增加，Gödel Agent 的性能持续提升，展现出真正的「持续自改进」能力——而非简单的超参数调优。

这一结果对 AGI 路径有深远启示：传统 AI 系统的改进依赖人类工程师的外部优化，而 Gödel Agent 展示了系统将优化过程内化的可能性。

2025 年 Sakana AI 进一步提出 Darwin Gödel Machine，将进化搜索与哥德尔机结合，用经验验证替代数学证明，使自改进系统更加实用。