-
大模型结构化输出完全指南:从一次"我让模型返回 JSON、它却回了一段夹着解释的 Markdown"看懂可靠解析
2024 年我做一个功能让大模型从一段用户输入的文本里提取出结构化信息姓名金额日期之类再交给后面的程序去用。第一版我做得很省事在 prompt 里写一句请以 JSON 格式返回拿到模型的回复直接 json.loads。本地测了几条真不错模型乖乖回了 JSON 我也顺利解析出来了。我心里很踏实结构化输出嘛不就是在 prompt 里说一句返回 JSON 然后 json.loads 一下。可等它真正上线…- 0
- 0
-
大模型上下文窗口完全指南:从一次"对话聊久了突然报 token 超限"看懂上下文管理
2024 年我做一个客服对话机器人。需求很常见:用户和机器人多轮对话,机器人要记得前面聊过的东西。第一版我做得很直接:维护一个 messages 列表,用户每说一句就 append 进去,每次调用模型把整个列表原封不动发过去,模型回的内容也 append 回列表。本地测试聊三五轮完美,机器人清清楚楚记得前文。可一上线问题就来了:有的用户和机器人聊得很深一来一回几十上百轮,某一轮请求突然报错 400…- 0
- 0
Prompt工程
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×