(交叉发帖来源:https://ai.stackexchange.com/q/39813/57463,一周后没有满意的答案)
在chatGPT API中提高温度有什么好处?
上下文(可以跳过)
我认为GPT 3应该有一点温度,即使是在0.2之类的非创造性任务中也是如此(我不完全确定为什么)。
最后我检查了一下,如果我没记错的话,GitHub页面上的openai示例使用的是0温度。
当查询不请求创造性任务时,为chatgpt API选择非零温度有什么好处吗?如果是的话,是否有某些类别或例子?
发布于 2023-04-04 07:20:30
温度是一个参数,它控制从一个单词(或一组单词)到另一个单词的可能值的范围。
较高的温度意味着考虑更低概率的单词来构建一个短语。
例如,如果你说:
“赛车手开车”来自低温模型,而“猴子驾驶汽车”则来自高温模型,因为“猴子”和“汽车”之间的联系较少。
总之,适当的温度不是太迟钝,也不是太疯狂。和其他人的谈话一样,在太明显的事情和太原始的事情之间也有一种平衡:答案应该总是合乎逻辑的,但要给出一些可变性来激发想法或新的回答。
注:顶部p和顶k采样也是重要的参数。
另请参阅:
https://datascience.stackexchange.com/questions/120682
复制相似问题