-
大模型上下文窗口完全指南:从一次"AI 聊着聊着就失忆"看懂 token 与上下文管理
2024 年我做一个多轮对话客服 AI,短对话一切正常,可只要用户聊久一点——来回二三十轮——AI 就开始"失忆":用户第一句报过订单号,聊到后面又来问"请问您的订单号是多少";更糟时直接 API 报错 context_length_exceeded 整个对话崩掉。我以为是模型记性差,换了上下文窗口更大的模型,清净几天又犯。盯日志才反应过来:我每轮请求都是把…- 0
- 0
多轮对话
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×