-
我把带对话记忆的 Agent 做成了单例,上线后用户 A 问的问题,Agent 拿着用户 B 的对话历史在回答,记忆全串了:一次 Agent 会话状态没隔离的深度复盘
我做了个对话式 AI Agent,它有记忆能记住对话历史 conversationHistory,为了方便省资源把它做成了单例。上线后多个用户并发使用时,用户 A 问的问题 Agent 却拿着用户 B 的对话历史在回答、答非所问,更严重的是 A 的对话内容出现在了 B 的回复里(信息泄漏)。查清才明白:所有用户共用了同一个 Agent 实例的记忆——我把会话级的对话历史放成了单例的共享可变实例字段…- 0
- 0
-
我给 Agent 写了个清理 N 天前数据的工具,模型某次把 N 填成了 0,工具没校验就照单执行,把全部数据都删了:一次 Agent 工具参数未校验、把模型输出当可信输入的深度复盘
我给 AI Agent 写了个工具 cleanup_old_data(days) 清理 days 天前的数据,描述写得清清楚楚、平时用得也好。可某次 Agent 处理一个模糊的清理请求时把 days 填成了 0,而我的工具拿到 days=0 没做任何校验,直接执行 DELETE WHERE created_at < 此刻——删除了全部数据。查清才明白:我把模型填进工具的参数当成了绝对可信合法…- 0
- 0
-
我的 AI Agent 调用工具失败了,可它毫不知情、继续假装成功往下走,最后给用户编了一通根本没发生的操作结果:一次 Agent 工具错误没回传给模型、让模型基于错误前提瞎编的深度复盘
我做了个能调用工具办事的 AI Agent,有个工具是更新用户配置。线上偶尔出现诡异情况:工具其实执行失败了(下游报错、权限不足),Agent 却像没事人一样继续往下走、还信誓旦旦告诉用户已经帮您更新好了,实际啥也没改成。查日志才明白:我的工具函数 try-catch 了异常,但 catch 后要么静默返回空、要么只记自己的日志,没把这次失败以模型能理解的方式回传给 Agent;在模型视角里它收到…- 2
- 0
-
一个会自己调工具的 AI Agent,因为重试和重复决策,把一封通知邮件发了三遍、一个订单提交了两次:一次 Agent 工具副作用失控、有副作用的写操作被重复执行的深度复盘
我们给 AI Agent 配了能发邮件、能下单的工具,直到用户投诉收到重复邮件、重复订单:同一封通知邮件被发了三遍,同一个订单被提交了两次。排查发现是 Agent 因两种情况重复调用了有副作用的工具——一是工具调用超时重试(其实已成功只是返回慢,框架以为失败又调一次),二是多步任务里模型不确定自己做过没又决定做一次;而这些工具有副作用却没做幂等,多调一次就多发一封、多下一单。这篇复盘从故障现场讲到…- 0
- 0
-
一个工具描述写得含含糊糊的 AI Agent,在该查订单时却去退了款、参数还填错,把工具用得乱七八糟:一次工具定义不清的深度复盘
给客服 Agent 配了一堆工具,它表现却飘忽不定:问订单到哪了,有时查物流有时查订单、偶尔还调了退款,参数还把订单号填进用户 ID 的位置。换更强的模型也没根治。根因是工具描述写得含糊雷同(refund 只写'订单处理')、参数只写 id: string 没说是订单号还是用户 ID——而大模型完全依据工具的描述和参数 schema(看不到实现)来选工具、填参数,说明书烂它只能…- 0
- 0
-
一个把每一步的工具结果都原样堆进上下文的 AI Agent,跑到几十步后要么报 token 超限、要么忘了最初的任务:一次 Agent 上下文管理的深度复盘
Agent 处理简单任务很好,一遇到要几十步的复杂任务就出两种诡异故障:要么跑到一半报 context length exceeded,要么跑着跑着就跑偏、忘了最初的任务目标。根因是每步都把工具返回的完整结果原样追加进上下文、把越来越长的全部历史再喂给模型——工具结果动辄上万字,几十步累积撑爆上下文窗口;即使没爆,最初的目标也被淹没在海量细节里(lost in the middle)导致失忆跑偏。…- 9
- 0
-
一个没有设最大步数上限的 AI Agent,遇到一个它搞不定的任务后陷入了死循环,一夜之间烧掉了我们大半个月的模型预算:一次 Agent 失控的深度复盘
上线了一个能自动调工具的 AI Agent,前一天测试一切正常,第二天一早账单告警:一夜 Token 消耗几百倍、大半月预算被烧光。日志显示一个任务循环了几万步,反复调同一个工具、失败、换法重试、再失败。根因是 ReAct 主循环用 while True、没有最大步数上限,唯一出口是大模型主动给最终答案——可任务无解时大模型会固执地永远重试、出口永不到达。本文讲透 Agent 自主循环为何必须有硬…- 0
- 0
Agent工程
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×