模型推理

定义

模型推理是用训练好的模型处理输入并产生预测或生成结果的过程。

使用场景与易混概念

训练用于学习模型参数，推理则使用这些参数完成任务。语言模型生成一段回答属于推理；回答中展示的推理步骤只是其中一种输出形式，并不代表所有推理过程都能直接看到。