-
从 PyTorch 1.13 + Transformers 4.30 + Hugging Face Inference + OpenAI GPT-3.5 + 单 GPU 推理 + 手写 Prompt 字符串 单栈 → PyTorch 2.5 + JAX 0.4.35 + DeepSpeed 0.16 + FSDP 2 + Megatron-Core + vLLM 0.7 + SGLang 0.4.3 + TensorRT-LLM 0.16 + Llama 4 + DeepSeek V3 + Qwen 2.5 + Gemma 3 + Phi 4 + LangChain 0.4 + LangGraph 0.3 + LlamaIndex 0.12 + DSPy 2.5 + Outlines 0.1 + Instructor 1.7 + Ray 2.40 + Kubeflow 1.10 + MLflow 2.20 + W&B + Triton 24.10 + KServe 0.14 + BentoML 1.4 + Modal 0.66 + Ragas + DeepEval + LangSmith + Langfuse + Helicone + NeMo Guardrails + Llama Guard 3 + Presidio + pgvector 0.8 + Qdrant 1.13 + BGE 全栈 LLM + Agent + RAG + 安全护栏 + 推理 + 训练 + 评测现代化 87 天踩坑录
27 位 AI 工程师 + MLOps + 数据工程师 + 评测工程师 + 安全工程师 87 天把公司核心 AI 链路从 PyTorch 1.13 + Transformers 4.30 + 单 GPU 推理 + 手写 Prompt 字符串单栈,整体重构到 2026 年 vLLM 0.7 + SGLang + TensorRT-LLM + DeepSpeed ZeRO-3 + FSDP 2 + L…- 0
- 0
DSPy
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×