-
我给 Agent 写了个清理 N 天前数据的工具,模型某次把 N 填成了 0,工具没校验就照单执行,把全部数据都删了:一次 Agent 工具参数未校验、把模型输出当可信输入的深度复盘
我给 AI Agent 写了个工具 cleanup_old_data(days) 清理 days 天前的数据,描述写得清清楚楚、平时用得也好。可某次 Agent 处理一个模糊的清理请求时把 days 填成了 0,而我的工具拿到 days=0 没做任何校验,直接执行 DELETE WHERE created_at < 此刻——删除了全部数据。查清才明白:我把模型填进工具的参数当成了绝对可信合法…- 0
- 0
参数校验
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×