跳到正文
热点事件持续更新

大模型 Temperature 与 Top-p 的区别与调参建议

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

一篇技术文章用实算的候选词概率表说明,大模型 Temperature 作用在 Softmax 内部、通过缩放 logits 改变概率分布的陡峭程度,Top-p 则作用在采样前、按累计概率截断候选池,两者作用位置不同。 文章据此给出代码生成、数据抽取、头脑风暴等场景的取值建议,并称 temperature=0.7 配 top_p=0.7 常是最糟组合,建议优先只调 Temperature。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. 博客园
    大模型 Temperature 与 Top-p 的区别:原理与调参

    文章用一组实算的候选词概率表,说明大模型 Temperature 作用在 Softmax 内部、缩放 logits 改变分布陡峭度,Top-p 作用在采样前、按累计概率截断候选池。文中给出代码生成、数据抽取、头脑风暴等场景的 Temperature 与 Top-p 取值建议,并指出 temperature=0.7 配 top_p=0.7 常是最糟组合,建议优先只调 Temperature。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。