大语言模型的超参数含义： Top-P 采样； Top-P 采样；logit_bias：
目录
大语言模型的超参数含义
Top-P 采样
频率惩罚（Frequency Penalty）
top_k:
logit_bias：
top_logprobs：
max_tokens：
大语言模型的超参数含义
Top-P 采样
- 含义：一种采样替代方法，称为核采样。模型考虑top_p概率质量的token结果。例如，0.1表示仅考虑组成前10%概率质量的token。
- 作用：这种方法可以限制输出序列的长度，并仍然保持样本的一定多样性。
频率惩罚（Frequency Penalty）
- 含义：该参数的值范围为-2.0到2.0。正值会对新token进行惩罚，基于其在当前文本中的出现