演示 / 大语言模型 / Softmax

Softmax 与温度

前文是 “the cat sat on the”。温度低时几乎总抽到 mat;温度高时 hat / floor 也会出现。柱高是概率,不是原始 logit。

对照精读:GPT