speculative-decoding 7
- MTP 白送 1.8x 加速、接受率还能当质量探针:从辅助 Loss 到推理加速的意外收获
- 只在 Answer 上算 Loss、MTP λ=0.3 到底带来多少:从实验配置反推 Loss 设计的工程决策
- 接受率从 0% 调到 90%:MTP 投机解码的工程调优全记录与 Drafter 质量诊断
- 训推加速技术地图:三维分类 + 全景图 + 决策流 + 大模型加速术语表
- Speculative Decoding 实战:vLLM 框架下 EAGLE-3 原理与工程落地
- vLLM v0.20 显存优化与推理加速实战指南
- vLLM v0.20 架构深度解析:双引擎、调度器、KV Cache 与分布式推理