-
我的 Agent 调用一次查询工具就把上万行结果原样塞回上下文,从此推理越来越笨、还越来越贵,我对着工具返回结果的治理排查了大半天的复盘
我做了个数据分析 Agent,能调用"查数据库"工具,根据用户问题查数据再总结。小数据量测试惊艳,接上生产库就抽风:有时答到一半报上下文超限崩了,有时答得驴唇不对马嘴像"忘了"用户问什么,token 账单还高得吓人。以为模型不行、prompt 不好,改半天没用,直到把 Agent 每步上下文 dump 出来,看到一条工具返回里塞着上万行查询结果、几十万字符,…- 0
- 0
ContextEngineering
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×