-
Prompt 注入完全指南:从一次"用户一句忽略以上所有指令、AI 就被策反"看懂大模型安全
2024 年我做一个公司官网的 AI 客服。逻辑很简单有一段我写好的系统指令规定它只回答和我们产品有关的问题语气友好不准谈论竞品用户问什么我就把用户的问题拼在这段指令后面一起发给大模型。第一版我做得很直接系统指令加用户输入拼成一个字符串发出去。本地一测很好问产品答产品问竞品它礼貌地拒绝。我心里很踏实指令我都写死了它能翻出什么花样。可上线没几天同事丢给我一张截图我当场后背发凉有个用户在对话框里输入的…- 0
- 0
大模型安全
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×