ktemperature专题

大模型中top-ptop-ktemperature如何共同使用——Gemma为例子

参考: 大模型文本生成——解码策略(Top-k & Top-p & Temperature) 大模型源码理解-以Gemma为例子 摘要 之前系统学习了大模型的解码方式,Top-p, Top-k, Beam-search, Greedy, temperature等等,具体使用的时候,也清楚采用这些方式混合使用,但是具体怎么混合,有些模糊。看了一篇相关文章大模型文本生成——解码策略(Top-k &