-
LLM 结构化输出完全指南:从一次"json.loads 在生产环境随机崩溃"看懂大模型为什么给不了你稳定的 JSON
2024 年我做一个简历解析功能用户上传一段简历文本我让大模型把里面的姓名工作年限技能列表抽取出来变成一个结构化的对象怎么让模型把抽取结果交给我这件事我没多想让它输出 JSON 不就行了第一版我做得很顺手我在提示词里写一句请以 JSON 格式输出结果把模型返回的字符串直接 json.loads 一下拿到 dict 完事本地拿几份简历一测真不错模型乖乖吐出 JSON 解得干干净净字段一个不少我心里很…- 0
- 0
-
Prompt 注入防御完全指南:从一次"用户一句话就让 AI 吐出系统提示词"看懂 LLM 分不清指令和数据
2024 年我做了一个 AI 客服助手接进公司的业务系统用户用自然语言问问题它查订单改地址给点优惠怎么把用户的问题喂给大模型这件事我压根没多想第一版我做得很顺手我写了一段详尽的系统提示词规定它你是客服只能聊业务不许泄露内部信息然后把用户输入直接拼在这段提示词后面一起发给模型就完事了本地拿一批正常问题一测真不错问订单它查订单问退货它讲流程系统提示词里立的规矩它条条都守我心里很笃定我系统提示词都写这么…- 0
- 0
-
AI Agent 记忆系统完全指南:从一次"聊到几十轮 context 直接爆掉,早说过的话它全忘了"看懂记忆分层
2024 年我做了一个 AI 助理 Agent 用户跟它聊需求它帮用户记事跨多轮对话办事怎么让它记得住用户说过的话这件事我压根没多想第一版我做得很顺手记忆嘛不就是把聊过的话留着我把每一轮的用户消息和模型回复原封不动地全部追加进一个 messages 列表下一次请求就把这个越来越长的列表整个发给大模型就完事了本地拿几轮对话一测真不错我心里很笃定 Agent 的记忆不就是把对话历史留着吗 contex…- 0
- 0
大模型应用
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×