-
大模型对话历史压缩完全指南:从一次"砍掉几条旧消息、Agent 就报 400 错误"看懂上下文治理
2023 年我做一个能调工具的 AI 客服 Agent 用户多轮对话 Agent 中途会调用查订单查物流这些工具把结果拿回来再继续回答多轮对话怎么管历史这件事我压根没多想第一版我做得很省事每一轮把从头到尾整段对话历史都塞进 messages 发给模型后来对话长了模型开始报超出上下文长度我又很省事地想上下文窗口要满了把最早的几条消息删掉只留最近的不就腾出空间了我顺手写了个只保留最近 8 条就完事了本…- 0
- 0
上下文管理
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×