-
LLM 微调工程化完全指南:从一次"医疗客服模型把感冒诊断成败血症吓退用户"看懂为什么数据加训练远远不够
2024 年初我们想做一个垂直行业的客服大模型基于 Llama-2-13B 微调给医疗咨询场景用我们组里只有一个搞过传统 NLP 的工程师大家信心满满觉得有 GPU 有数据就能搞定结果第一版折腾了三个月微调出来的模型上线测试客户问我有点感冒模型回您可能患有败血症请立即就医完全幻觉直接吓退用户项目差点被砍然后我们陆续踩了一堆坑第一种最让我傻眼我们准备了 5000 条对话数据全是公司内部历史聊天记录直…- 0
- 0
-
LLM 微调工程化完全指南:从一次"LoRA 训完法律审查飙到 85% 但日常问候也讲合同条款"看懂为什么 trainer.train 远远不够
2024 年我们想给一个法律咨询 SaaS 加一个中文合同审查助手我们以为很简单拿一个开源 LLM 比如 Qwen 7B 全参数微调一下喂 5 万条合同审查样本就上线我跑通第一版后陆续踩了一堆坑第一种最让我傻眼全参数微调 7B 模型一台 A100 80G 跑了 2 天单 epoch loss 收敛得很慢训完 evaluate 模型对法律术语的理解几乎没变在合同关键条款上的 F1 只比 base 模…- 0
- 0
LLM微调
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×