推理模型（reasoning model）和普通对话模型有什么不同？

普通对话模型读完 prompt 后基本是直接作答。推理模型通常用强化学习在答案可检验的问题上训练，比如数学题和有单元测试的代码，学会先生成一段很长的内部 chain of thought。它学会拆解问题、尝试不同方法并检查自己的结果，这就是它在多步问题上表现更好的原因。

代价是推理时的算力。隐藏的推理过程可能比可见答案长很多倍，所以每次查询的延迟和价格都会上升。对于快速的事实查询或改写一封邮件，这些额外思考几乎没有收益。

在产品里我不会把所有请求都交给推理模型。我会按难度路由：用一个便宜的分类器或规则，把困难的分析或编码请求发给设置了推理预算上限的推理模型，其余交给快速的对话模型。然后在两条路径上分别度量准确率、延迟和每个成功任务的成本。