-
大模型采样参数完全指南:从一次"同样的 prompt 每次答案都不一样、调高 temperature 就胡说"看懂 temperature 与 top_p
2024 年我做一个大模型应用里面有好几个用 LLM 的地方一个把用户反馈分类一个从订单文本里抽字段还有一个给用户生成营销文案。第一版我做得很省事不管哪个场景我都直接调接口只传 prompt 采样参数一个都不设全用默认值。本地测了测真不错分类分得对字段抽得准文案也写得有模有样。我心里很踏实调大模型嘛把 prompt 写好调一下接口不就行了。可等这套东西真正上线被反复调用一串问题冒了出来。第一种最先…- 0
- 0
LLM采样
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×