-
我把一大段资料和指令拼进 prompt 喂给大模型,内容少时一切正常,内容一多模型就开始不按我的要求做、像没看见我的指令一样,排查半天才发现 prompt 超了 token 上限、被默默截断、我放在末尾的关键指令根本没送进去的深度复盘
我做了个基于大模型的功能:把一段资料和处理指令拼成 prompt 喂给模型,习惯把指令放在末尾觉得模型最后看到印象最深。资料少时模型乖乖照做,可资料一多模型就不听话——我要 JSON 它输出大段自然语言,我要只总结要点它长篇发挥,像压根没看见指令。我以为是模型能力不行、指令不清楚,改措辞都没用。直到把拼好 prompt 的 token 数和模型上下文窗口上限一对比才恍然:资料一多 prompt 超…- 0
- 0
截断
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×