-
大模型上下文窗口完全指南:为什么 AI 对话越聊越贵、越聊越笨
2024 年我做一个内部 AI 对话助手,刚上线时又快又准,用着用着用户开始抱怨:同一个会话越聊越慢、回答越来越笨、账单还越滚越高。我一度以为是模型质量不稳定想换模型,直到把每次请求真正发出去的 messages 数组打印出来才看明白——问题根本不在模型,而在我每次请求都把整段对话历史原封不动塞回去。模型是无状态的,它不记得上一句话,所谓"多轮对话"全靠你每次把历史重新递交一遍…- 0
- 0
AI对话
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×