-
大模型输出截断完全指南:从一次"模型返回的 JSON 莫名其妙少了半截"看懂 max_tokens 与 finish_reason
2023 年我做一个 AI 内容生成服务用户给一个主题系统调大模型生成一段结构化的结果一段 JSON 里面有标题摘要正文调用大模型时 max_tokens 这个参数我压根没多想第一版我做得很省事设个 max_tokens 不就是给模型的输出定个长度上限免得它太啰嗦太费钱我随手填了个 max_tokens 等于 500 调用拿到 content 解析出来就完事了本地开发时真不错我测几个短主题模型生成…- 2
- 0
max_tokens
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×