-
我的 AI Agent 直接拿大模型生成的参数去调用工具执行,结果模型一"幻觉"出个不存在的参数,工具就报错把整个任务带崩了,我对着把模型输出当可信数据直接执行这个坑排查大半天的复盘
做能调用工具的 AI Agent 时栽的一个关于信任边界的大跟头,它让我明白大模型生成的东西无论看起来多言之凿凿都只是建议/猜测,绝不能当可信事实直接执行。需求是做一个用自然语言操作系统的 Agent:用户说需求,模型决定调哪个工具、生成参数,然后执行。我的实现很直接——把模型吐出的工具名和参数解析出来原样拿去 tool_func(**args) 执行。模型表现正常时跑得好好的,但大模型不是永远正…- 0
- 0
信任边界
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×