解码（Decoding）（2026.08.25）

概念编号：076

一句话理解

模型给出“下一步可能是什么”的概率，解码负责决定实际选哪一个 Token，并不断重复直到结束。

具体解释

模型通常不会直接吐出完整答案，而是一步一步预测下一个 Token。解码策略可以选择最高概率的结果，也可以在候选结果中采样，从而影响回答的稳定性、多样性和重复程度。

边界与易混淆概念

• 解码不是训练：它只决定一次生成如何落地。
• 随机性高不等于创造力一定高：不同任务需要不同的稳定性和可控性。
• 温度、Top-k、Top-p 是解码参数，不是模型本身的知识或智力。

例子

同一个 Prompt 在较低温度下通常更稳定，在较高温度下可能产生更多样的表达。

相关概念

• 模型推理（Inference）（2026.08.25）
• 词元（Token）（2026.08.24）
• 推理（Reasoning）（2026.08.24）

来源

• Attention Is All You Need

概念卡更新日志

• 2026.08.25｜创建概念卡：依据语言模型逐 Token 生成机制和 AI 概念框架，登记为 076。