-
Prompt 注入防御完全指南:从一次"用户一句话就让 AI 吐出系统提示词"看懂 LLM 分不清指令和数据
2024 年我做了一个 AI 客服助手接进公司的业务系统用户用自然语言问问题它查订单改地址给点优惠怎么把用户的问题喂给大模型这件事我压根没多想第一版我做得很顺手我写了一段详尽的系统提示词规定它你是客服只能聊业务不许泄露内部信息然后把用户输入直接拼在这段提示词后面一起发给模型就完事了本地拿一批正常问题一测真不错问订单它查订单问退货它讲流程系统提示词里立的规矩它条条都守我心里很笃定我系统提示词都写这么…- 0
- 0
AI应用安全
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×