02. Reasoning Model、Agent 与长任务

如果第一篇解决的是“什么叫推理”，那这一篇要解决的是另一个更现实的问题：

为什么有的模型看起来更会推理，
而有的模型一到复杂任务就开始掉链子？

1. reasoning model 和普通模型的差别是什么？

更准确的区分不是：

普通模型不会推理，reasoning model 才会推理

而是：

普通模型也可能表现出一定推理能力，
只是面对复杂、多步、强约束问题时通常更不稳定。

可以先粗略理解成：

普通模型：更容易直接给出一个看起来合理的答案。
reasoning model：更倾向于先处理问题结构，再给答案。

它通常更擅长：

• 拆解问题
• 保持约束条件
• 分步骤推进
• 在一定程度上检查自己的答案

但边界也要保留：

reasoning model 不是一定正确，只是通常在复杂问题上更可靠一些。

2. 模型为什么“知道很多”，却一推就错？

一句话先说结论：

知道很多，不等于能把这些知识稳定组织成正确推理。

知识更像材料库，推理更像施工能力。

知识像砖块，
推理像用砖块搭房子。

砖块很多，不代表房子一定搭得稳。

模型可能知道：

• HTTP 500 是服务端错误
• 空指针异常通常来自空对象访问
• 数据库事务是什么

但如果让它综合日志、链路、发布记录、依赖关系去定位故障，它就不一定稳定。

原因通常包括：

• 推理比记忆更容易在中间步骤出错
• 模型擅长“局部合理”，不等于“全局正确”
• 语言连贯性不等于逻辑正确性
• 模型对知识的掌握往往先于它对知识的稳定运用

所以一个很重要的判断是：

知识量和推理能力都重要，但角色不同。
知识量决定“有什么材料”；
推理能力决定“怎么用这些材料”。

3. LLM 出现之前，AI 没有推理能力吗？

不是。

更接近事实的说法是：

LLM 出现之前，AI 并不是没有推理能力，而是不同系统的推理方式和范围差异很大。

比如：

• 规则系统可以做很强的演绎推理
• 搜索和规划系统可以做决策推理
• 传统视觉模型和分类模型更偏感知和判断

这也解释了为什么像 YOLO 这样的模型当然属于 AI，但通常不被看作强推理模型。它更擅长的是：

图像特征提取
目标定位
目标分类

而不是：

处理复杂条件关系
做多步推导
分析因果
显式排除多个假设

4. 推理能力和 agent 能力是什么关系？

一句话先说结论：

推理能力是 agent 能力的重要组成部分，但两者不是一回事。

因为 agent 不只是“想”，还要“做”。

推理能力更偏什么？

• 理解问题
• 分析条件
• 生成计划
• 做判断
• 排除错误选项

agent 能力还要多什么？

• 调用工具
• 读写文件
• 查资料
• 执行命令
• 根据环境反馈调整下一步动作
• 把多步任务真正完成

所以可以压缩成一句：

推理更像“脑内处理问题”，
agent 更像“边想边行动，并根据外部世界反馈继续推进任务”。

也就是说：

推理能力决定 agent 会不会想清楚；
agent 能力决定它能不能把事情真正做完。

5. 为什么接上工具后，小模型看起来会变聪明？

因为工具会把一部分难度外包掉。

短任务往往更像：

提问 -> 调工具 -> 整合结果

这时工具可以显著补能力，比如：

• 搜索提供事实
• 计算器提供正确计算
• 代码执行器提供运行结果
• 测试框架提供可验证反馈

所以你会觉得：

模型接了工具之后突然聪明很多。

但这里要非常小心地区分：

工具提升的是系统整体表现，
不等于直接提升了模型本体的推理能力。

更准确的说法是：

工具提供材料、证据和计算结果，
推理决定模型会不会正确地选择、使用和整合这些结果。

6. 为什么小模型接上工具后，短任务还行，长任务却容易崩？

因为长任务考验的不只是调用工具，而是持续推理和持续控制。

短任务通常只需要：

• 选对一次工具
• 提一个像样的问题
• 把结果整合回来

但一到长任务，难点就变成了：

• 状态保持
• 长程规划
• 前后步骤一致性
• 错误恢复
• 噪声过滤

所以本质上：

短任务更像“会不会用一次工具”；
长任务更像“能不能持续管理一个问题求解过程”。

这也是为什么一个接了工具的小模型，短时间内会显得很聪明，但一到长流程就容易：

• 忘前提
• 跑偏目标
• 重复操作
• 对反馈理解错误
• 在中间某一步错了以后继续沿着错误方向前进

7. 为什么上下文窗口大，也不等于长任务能力强？

因为：

上下文窗口大，只代表“能放进来的信息更多”；
不代表“模型能把这些信息长期、稳定、正确地管理好”。

它解决的是“放不下”，不是“会不会用好”。

长任务真正难的是一直维护这些东西：

• 目标是什么
• 现在做到哪一步了
• 哪些假设已经被推翻
• 哪些约束始终不能忘
• 下一步应该做什么

所以更准确地说：

大窗口让模型看得更多，
长任务能力要求模型管得更好。

8. 编程 agent 真正需要什么样的记忆？

编程 agent 变得可靠，并不是因为它“什么都记住了”，而是因为它把记忆分层了。

最有用的不是一个“大记忆”，而是几类不同的记忆：

• 规则记忆：项目规范、构建命令、禁忌操作、代码风格
• 状态记忆：当前目标、做到哪一步了、哪些假设被推翻、下一步是什么
• 经验记忆：仓库常见坑、用户偏好、稳定工作流
• 外部事实记忆：代码、git diff、日志、测试结果、文档

这里还要再区分两种东西：

• 软记忆：提示模型“应该怎么做”，比如规则文件、偏好记忆
• 硬约束：真正拦住危险行为或强制检查，比如 sandbox、approval、hooks、tests

一句很适合记住的话是：

编程 agent 不是靠“记住更多”来变可靠，而是靠“把记忆分层外置，把约束做成机制，把正确性交给可验证系统”。

小结

这一篇最关键的几句话是：

• reasoning model 和普通模型的区别，不是“会不会推理”，而是“在复杂推理任务上是否更稳定”。
• 工具能补系统能力，但不能自动补长期规划、条件保持和错误恢复能力。
• 推理能力决定 agent 会不会想清楚，agent 能力决定它能不能把事情真正做完。
• 长任务真正考验的是持续推理、状态管理和过程控制，而不是上下文窗口里能塞多少信息。

下一篇继续：03. RAG、Memory、Fine-tuning 与 Distillation