-
LLM 成本优化完全指南:从一次"换了便宜模型账单却没降多少"看懂为什么 token 用量才是大头
2024 年我做一个 AI 文档问答功能用户问一个问题系统从公司的文档库里找出相关内容连同问题一起塞进提示词调大模型生成回答第一版我做得很顺手用户的问题来了我把可能相关的文档段落都拼进提示词调一个能力最强的大模型把答案返回本地一测回答得又准又全我心里很笃定 AI 功能嘛把上下文给足用最好的模型效果就有保证这功能稳了可等它一上线有了真实用量一串问题冒了出来第一种最先把我打懵 API 账单是按天出的某…- 0
- 0
token计费
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×