使用模型推理增强模型响应

某些基础模型能够执行模型推理，因而可以执行较大型的复杂任务，并将其分解为较小型、较简单的步骤。这个过程通常被称为思维链（CoT）推理。思维链推理通常可以让模型有机会在做出反应之前进行思考，从而提高模型的准确性。模型推理对于多步分析、数学问题和复杂推理任务等任务最为有用。

例如，在处理数学单词问题时，模型可以首先识别相关变量，然后根据给定的信息构造方程，最后求解这些方程以得出解。这种策略不仅可以最大限度地减少错误，还可以使推理过程更加透明和易于理解，从而提高基础模型的输出质量。

并非所有任务都需要模型推理，而且会带来额外的开销，包括延迟和输出词元的增加。不需要额外解释的简单任务不适合 CoT 推理。

请注意，并非所有模型都允许您配置为模型推理分配的输出词元数量。

模型推理适用于以下模型。