从ChatGPT到AI Agent,一文讲透 Agent 的底层逻辑
转载自微信公众号:言午 从ChatGPT到AI Agent,一文讲透 Agent 的底层逻辑
阅读指南
这篇文章,源于我一年半的AI开发实践,也源于我离职这近两个月里和许多团队密集交流后的一个强烈感受。我发现,在讨论Agent时,我们常常陷入两种误区:一些人将其神秘化,认为它无所不能;另一些人则将其过度简化,认为它“不过是把ChatGPT多调用几次”。
因为对 agentic 循环过程的体感缺少和原理的理解,形成认知的错位,最终导致我们的沟通成本很高。
因此,我写下这篇长文,希望能为我们这些从业者,建立一个关于Agent的体感和共识基础:AI Agent能力的质变,不仅在于底层大模型日益增长的智力,更关键的,在于我们围绕模型所设计的、那一套行之有效的“认知流程”。
本文近万字,就是体感的建立和对这套“流程”的完整拆解。你可以根据这份指南,快速找到自己感兴趣的部分:
- • 第一部分 (0x01 & 0x02):建立直观理解
- • 这里,我用了一个 “学霸的五个成长阶段” 的比喻,来描述Agent核心能力的演进过程。
- • 同时,我们会分析那个被行业广泛使用的“旅行规划”案例。它就像一道“标准考题”,在对比中,我们可以清晰地看到一个动态流程与一次性生成的本质区别。
- • 第二部分 (0x03 & 0x05):面向开发者的核心
- • 0x03 是本文的技术核心。它会详细拆解“流程”带来的三重价值:如何用“结构”为思考建立脚手架,如何用“迭代”为记忆打造压缩算法,以及如何用“交互”为模型连接现实世界。
- • 0x05 探讨了我们的角色转变——从“提示词工程师”到 “Agent 流程架构师” ,并讨论了Agent的性能工程与未来的架构演进方向。
- • 第三部分 (0x04):探寻理论根基
- • 最后,如果你好奇为什么这套
思考->行动->观察的流程从根本上就是有效的,0x04 会为你揭示其背后的科学基石,它与经典的控制论和信息论有着深刻的联系。
- • 最后,如果你好奇为什么这套
希望这篇文章,能为我们后续的交流与协作,提供一个更坚实的起点 。
0x00 如果,高考可以再来一次
这几个月,我和非常多的开发者交流AI Agent。一个普遍的困惑是,很多人都知道Agent那个抽象的 思考 -> 行动 -> 观察 循环,但却无法真正“体感”到它的威力。他们会问:

“这不就是我和ChatGPT多聊几轮吗?凭什么自动化之后就能产生质变?”
为了回答这个问题,我们不妨先回到一个大家都经历的场景。
问一个可能有些“扎心”的问题:如果时间倒流,让你在高考结束的第二天,立刻重考一次,你的分数会更高吗?
相信,许多曾为高考结果扼腕叹息的同学会立刻站起来:
- • “我考完才猛然想起,那道复杂的解析几何题,如果换个思路用‘数形结合’的方法,本可以迎刃而解。”
- • “我因为太过紧张,有道选择题,脑子里想的是B,手上却涂成了C,交卷前也没检查出来。”
- • “我当时就是时间分配不合理,最后一道物理大题的完整思路明明都在草稿纸上,却没来得及誊上答卷!”
再来一次,就凭着这些细微末节的调整,提升几十分,并非不可能。
短短一天,你那经过十二年寒窗苦读才构建的知识储备,并没有发生任何质变。这就像今天的大语言模型(LLM),它的核心知识在训练完成的那一刻就被“冻结”了,形成了一 个庞大但静态的知识库。
那么,分数提升的奥秘究竟在哪?
答案,正是我们理解AI Agent的核心所在:Agent的强大,并非源于模型智力的再次飞跃,而是源于我们为其赋予的“认知流程”的巨大提升。
这套“流程”,就如同你在考场上学会的“先易后难”的时间分配策略、交卷前雷打不动的“检查”习惯、以及解不出难题时果断“换个思路”的变通能力。
而要理解这套流程是如何在AI身上一步步建立起来的,我们不妨从学霸“小明”的成长史说起。
0x01 一个比喻讲清Agent核心:学霸的五个成长阶段
小明的成长,就是一部不断优化“解题流程”的进化史。
阶段一:原生天才
小明天赋异禀,脑子转得飞快。做数学题时,他极度自信,全程心算。考试时,他总是第一个把卷子“啪”地一声拍在讲台上,一脸轻松地走出教室。至于分数?别问,问就是“快不快吧!”。他确实把卷子做完了,但卷面之下,究竟有多少是因为跳步导致的计算失误,有多少是审题不清造成的方向性错误,他自己都不知道。
这完美对应了我们最开始使用大语言模型(LLM)的方式:基础API调用。我们把问题丢给它,它一次性地、黑盒般地生成一个答案。这个答案看起来很完整,甚至文采飞扬,但它究竟是如何得出的?其中有没有事实性错误?我们一无所知。这个阶段的AI,就像只追求速度的小明,交付了一个结果,却无法保证这个结果的可靠性。
阶段二:思考者
在几次因粗心丢分后,老师下达了硬性要求:所有题目,必须在草稿纸上写下详细的解题步骤。小明虽不情愿,但照做之后发现,正确率真的大幅提升了。把思考过程“外化”在纸上,让他能轻易发现逻辑链条中的微小瑕疵。
[核心概念:思维链 (Chain of Thought, CoT)]
CoT是第一个、也是最基础的结构化思考流程。它的核心作用在于,强制模型将一个复杂的、需要一步到位的“猜测式”任务,分解成了一系列简单的、线性的“推理式”子任务。它如同一个缰绳,拉住了试图“跳步”的思维野马,强迫它把注意力集中在当前这一步,利用上一步的结论,推导出下一步的结果,从而极大地降低了模型产生幻觉的概率。
Wei, J., Wang, X., Schuurmans, D., Bosma, M., Chi, E., Le, Q., & Zhou, D. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models.
阶段三:细心人
小明又进步了。他不仅会打草稿,还学会了一个新技能。当他提前答完所有题目,抬头一看,发现离考试结束还有十分钟,他会启动一个全新的“心智模式”:交卷前检查。此刻,他不再是“答题者”,而是一个苛刻的“检查者”,用批判性的眼光审视自己的答案,主动寻找可能的错误并加以修正。
[核心概念:自我反思 (Self-Reflection)]
Reflexion框架的本质,是为Agent引入了一套‘先行动、再复盘、后修正’的自我迭代流程。它让Agent在完成一次任务后,先不急着输出最终结果,而是生成一段对刚才执行过程的“复盘笔记”。在下一次尝试时,这段“错题本”一样的信息会作为重要参考,被一同放进上下文中,引导Agent避免重蹈覆辙。
关键数据证明:通过这套迭代流程,Reflexion在HumanEval代码生成任务上取得了91%的准确率,超越了当时GPT-4的80%记录,无可辩驳地证明了“流程”优化的巨大杠杆效应。
Shinn, N., Cassano, F., Gopinath, A., Narasimhan, K., & Yao, S. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning.
阶段四:战略家
随着考试难度的提升,小明意识到,光有解题能力和细心还不够。他开始在拿到试卷的第一分钟,不再埋头做题,而是快速通览全局,在脑中形成一个作战计划:哪些题是送分题要先拿稳,哪些题是硬骨头要放到最后,并为每个部分预估时间。在答题过程中,如果发现某道题耗时超预期,他还会动态调整这个计划。
[核心概念:规 划 (Planning)]
这是更高阶的宏观流程设计。在处理一个复杂任务时,具备规划能力的Agent不再是走一步看一步,而是会先将宏大目标分解成一系列逻辑清晰的子任务,形成一个计划清单。这个清单就是它行动的蓝图,确保了它的每一步都是在为最终目标服务,极大地提升了执行效率和确定性。这是大多数高级Agent框架的核心组件。
阶段五:学者
后来,小明进入了大学,开始做真正的研究。他的任务不再是解答有标准答案的考题,而是去探索一个开放性的前沿课题,比如“分析近年国内新能源汽车市场的渗透率变化趋势”。
面对这个课题,他脑中的课本知识(模型的静态权重)显然已经过时。于是,他启动了一套全新的工作模式,这正是Agent最强大的工具使用(Tool Use)*能力的完美体现。而其核心,并非工具本身,而是《ReAct》框架所揭示的那套将思考与行动深度绑定的、里程碑式的*工作流程:思考 -> 行动 -> 观察。
首先,他思考(Thought):“我的知识库里只有几年前的旧数据,无法直接回答这个问题。我必须获取最新的行业报告和数据。”
这个思考驱动了他采取行动(Act)。他没有凭空猜测,而是选择了一个工具——走向图书馆,打开知网和行业数据库,输入关键词进行检索。这对应Agent调用search_api("中国新能源汽车2023-2025市场渗透率报告")。
紧接着,他 观察(Observe) 到了行动的结果:几 篇最新的报告和数据图表出现在屏幕上。这是他之前完全不知道的、来自外部世界的新信息,是客观事实。
最后,他带着观察到的新知,回到 再次思考(Thought) 的环节:“原来最新的数据是XX%,主要增长动力来自二线城市,并且某项技术革新是关键变量。现在,我可以基于这些事实进行分析和论证了。”
这个循环,将AI从一个封闭的“大脑”,变成了一个能与现实世界持续互动的“行动者”。它通过工具打破了自身知识的局限,用真实、即时的信息来校准和迭代自己的思考,从而将成果的质量和可靠性提升到了一个全新的高度。
至此,小明的进化之路走到了终点。他从一个只靠天赋的“原生天才”,最终成长为一位懂得规划、反思、并善用工具解决复杂问题的学者。而他一路习得的这些能力——打草稿(思维链)、复盘检查(自我反思)、谋篇布局(规划)、查阅资料(工具使用)——正是构成一个强大AI Agent的核心组件。
这,就是从Chatbot到Agent的完整进化路径。
[核心概念:工具使用 (Tool Use) 与 ReAct 框架]
ReAct框架的伟大之处,不在于工具本身,而在于它定义了一套将‘思考’和‘行动’深度绑定的交互式工作流程:
思考 -> 行动 -> 观察。这个循环,将AI从一个封闭的“大脑”,变成了一个能与现实世界持续互动的“行动者”。它通过工具打破了自身知识的局限,用真实、即时的信息来校准和迭代自己的思考,从而将成果的质量和可靠性提升到了一个全新的高度。
Yao, S., Zhao, J., Yu, D., Du, N., Shafran, I., Narasimhan, K., & Cao, Y. (2022). ReAct: Synergizing Reasoning and Acting in Language Models.
0x02 从“优雅的独白”到“可靠的行动”
说完了小明的进化史,我们回到那个被各家 Agent 用烂了的旅行规划例子,用刚刚建立的视角,重新审视一下,Agent 究竟强在哪。
“帮我规划一个北京周末三人游,要求包含故宫和一个适合孩子的科技馆,并给出预估的总预算。”
(是的,我知道,又是这个烂大街的旅行规划例子。我们在此也无法免俗地用它来‘公开处刑’,因为它实在太经典、太能说明问题了。)
Chatbot的答卷:一个“博学但健忘”的秘书
你向ChatGPT提出这个问题。就像最开始的那个小明,不带任何犹豫,它“噼里啪啦”就为你生成了一篇堪称完美的攻略:
**北京周末亲子探索之旅** ✈️
您好!很高兴为您规划这次精彩的北京之旅。行程安排如下:
**周六:历史与文化熏陶** 🏰
* 上午:参观故宫博物院,感受皇家气派。建议提前在官网预订门票,票价为60元/人。
* 下午:前往位于西城区的“北京儿童科技探索馆”,那里有丰富的互动展项,非常适合孩子。
* 晚上:...
**预算估算:** 💰
* 门票:(60元/故宫 + 50元/科技馆) x 3人 = 330元
* 住宿:...
* 餐饮:...
* **总计:约1500元**
攻略格式工整、文采飞扬、语气贴心,甚至还带上了emoji。它看起来就像任何一篇你在小红书上能刷到的旅行攻略。
然而,如果我们仔细检查这份“攻略”,就会发现它华而不实,漏洞百出:
-
- 信息过时(幻觉):它引用的故宫门票信息,可能来自其训练数据中的某个陈旧网页。它根本不知道,在旅游旺季的当下,故宫早就换了预约方式。
-
- 信息虚构(幻觉):它提到的“北京儿童科技探索馆”听起来很不错,但如果你真的去搜索,会发现这个地方根本不存在。这是模型基于“北京”、“儿童”、“科技馆”等关键词,在统计概率上“创造”出的一个最像答案的组合。
-
- 缺乏可执行性:那个“1500元”的预算,只是一个模糊的概数,你无法信任它,更无法基于它做出任何决策。
这就是Chatbot的本质:一次 “优雅的文本统计模仿”。因为它执行的是一个静态的、一次性的生成流程,它没有机制去验证、去反思、去与现实交互。
AI Agent的答卷:一个“有点刻板但极其可靠”的行动派
现在,我们把同样的任务交给一个AI Agent。你不会立刻得到一份混杂着emoji的攻略。相反,如果你能打开它的详细执行过程,你会看到一场动态的、目标导向的行动正在上演。
它会像一个真正的项目经理那样,直播它的“内心独白”与“行动”:
Think (Planning): “收到任务。第一步,制定计划:1. 验证故宫门票情况。2. 查找北京真实存在的、适合儿童的科技馆。3. 查询所有地点的确切票价和开放时间。4. 汇总精确预算。5. 生成最终方案。”
(看,这就是第一章提到的 ‘规划’流程 在启动,它为整个任务建立了宏观的执行框架。)
Think: “开始执行计划第一步:验证故宫门票。”
Act:
search_api("故宫博物院官网订票")Observe: “官网提示:本周门票已售罄。需要提前一周预约。”
Think: “计划受阻! 故宫无法前往。这与用户的核心要求冲突,必须动态调整计划(Re-planning)。新计划:1. 明确告知用户故宮门票售罄的事实。2. 继续执行原计划第二步,查找科技馆,并以此为核心规划新行程。”
(而这个关键的调整,正是 ‘反思’流程 被触发的结果,它让Agent从失败中学习。)
这个 Think -> Act -> Observe 的循环会不断持续,直到它完成计划中的所有步骤。最终,它呈现给你的报告可能不那么“文采飞扬”,但却百分之百基于事实、完全可用:
**北京周末亲子旅行规划(修订版)**
您好,在为您规划行程时,我通过实时查询发现【故宫博物院本周门票已全部售罄】。
因此,我为您重新规划了以科普为主题的备选方案:
**核心行程:**
* **地点:** 中国科学技术馆 (地址:北京市朝阳区北辰东路5号)
* **票价信息:** 主展厅成人票30元/人,学生票20元/人。假设您的孩子符合学生票条件,三人门票总计为 30x2 + 20x1 = 80元。
* ...(后续会基于此,继续查询交通、餐饮等,并给出精确预算)
这时候再回看,Chatbot与Agent的天壤之别已无需多言。
前者看起来很美,但你永远不敢用它上考场,因为它只是在复刻答案;后者过程虽然笨拙缓慢,但真的能做出成果,因为它是在执行一个发现答案的流程。
0x03 Agent的核心驱动:以“流程”驾驭模型之力
很多人初次接触Agent,打开它的运行日志时,会产生一种反直觉的困惑:
“怎么感觉它这么‘慢’,这么‘笨拙’?查个东西来来回回好几轮,远不如我直接问ChatGPT一秒出答案来得‘聪明’啊!”
这种“慢”,恰恰是通往Agent强大能力的第一扇门。它揭示了一个深刻的转变:我们正在从追求大语言模型(LLM)那种一次性的、直觉式的 “快思考”,转向设计一种结构化的、可验证的 “慢思考”。
而这套“慢思考”的核心,就是我们为AI设计的流程(Process)。
Agent的核心驱动力,并非源于模型自身的又一次智力爆炸,而是源于我们为它设计的这套工作流程。开发者所做的一切,本质上都是在用“更多的计算步骤”和“更长的思考时间”,去交换一个在真实商业世界里至关重要的东西——结果的“高质量”与“确定性”。
这套流程,究竟为Agent带来了什么?
第一重价值:用“结构”对抗“混沌”——为思考建立脚手架
首先,我们必须承认,LLM原生的思考方式是“发散的”、“扁平的”。它就像一个知识渊博但思维跳跃的天才,在面对一个真正复杂的任务时,它的长链条推理非常脆弱,很 容易在中间某个环节“跑偏”,或者干脆“忘记”了最初的目标。
而我们设计的规划(Planning)、思维链(CoT)、甚至更复杂的树状思维(Tree of Thoughts)*等流程,其本质,就是在为AI混乱的思考过程,强行建立一套*“逻辑脚手架”。
- • 规划(Planning) 流程,如同建筑师手中的总设计蓝图。它在任务开始时,就将一个宏大到无法一次性思考的目标(“建一栋摩天大楼”),分解为一系列清晰、有序、可执行的步骤(“第一步:打地基;第二步:建主体;第三步:封顶……”)。它确保了AI的每一步行动都服务于最终目标,这是在“宏观”层面,用结构对抗混沌。
- • 思维链(CoT),则更像是现场工人的施工手册。它保证了每一步内部的逻辑是严谨的(“钢筋要这么绑,混凝土必须是C50标号”)。它强制AI的推理过程必须环环相扣、步步为营,这是在“微观”层面,用结构对抗混沌。
这套“脚手架”的存在,确保了AI在处理复杂问题时,不会因为思维的发散而半途坍塌。它极大地提升了AI解决复杂问题的能力上限。
第二重价值:用“迭代”对抗“遗忘”——为记忆打造压缩算法
LLM最致命的短板,莫过于它有限的“注意力”,也就是我 们常说的上下文窗口(Context Window)。它就像一条记忆只有7秒的鱼,既无法一次性处理海量的信息,也记不住漫长的历史教训。
而我们设计的反思(Reflection)、总结(Summarization)*等流程,本质上是在为AI的记忆,量身打造了一套*“高效的压缩算法”。
让我们回到那个旅行规划的例子。当Agent通过工具查询后,得知“故宫门票售罄”时,Reflexion流程被触发了。它做了什么?
它并没有把官网返回的所有HTML代码、弹窗提示等冗长的、原始的信息,全都塞进自己本就宝贵的“记忆”里。如果是那样,它的上下文窗口很快就会被垃圾信息撑爆。
相反,这个流程启动了一次 “记忆压缩”。它将这次失败的交互过程,提炼成了一句高信息密度的结论,并将其作为一条“经验”存入记忆:
“经验:故宫门票需提前一周预订,本周不可行。”
这个过程,是一次有损但极其有效的压缩。它丢弃了99%的无关细节,却用极小的上下文空间,保留了对未来决策100%关键的信息。正是这个小小的“经验便签”,让AI在后续的规划中,能够“吃一堑,长一智”,实现真正的学习与迭代。
这套“压缩算法”,让AI拥有了动态演化的“长期记忆”,使其能够在有限的注意力范围内,处理更长的时间线,完成更复杂的任务。