-
我给 Agent 配了删数据、发邮件、调付费接口的工具,没设任何护栏,结果它一顿"自主操作"删错了数据、群发了邮件,我对着 Agent 的权限与确认机制排查了大半天的复盘
做了个能自主干活的运维 Agent,为了让它强大配了一堆工具:查数据、删数据、发邮件、调按次收费的第三方接口,以为工具越多越能干就放它自动处理任务。结果出大事:它理解偏了自主删掉一批不该删的数据、判断失误给一大批用户群发不该发的邮件、付费接口在循环里被反复调用产生意外费用。我光想着给它能力却完全没想过它会不会用错能力。排查复盘大半天才理解 Agent 工程被严重低估却至关重要的方面——权限控制与人…- 0
- 0
AI安全治理
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×