关于我

我叫 Ryan，住在深圳，主要工作是让大模型“跑得快、花得少、离线也稳”。副业是把这些折腾变成能用的小产品，顺便写点坑位指南。

我在做什么

• 训练加速：从数据管线到内核优化，和显存做朋友，和带宽握手言和
• 推理加速：FP8/INT4、MoE、KV Cache，推到端侧也不慌
• 分布式与 RL：torchrun / MPI / Verl，把多卡像一颗心一样跳
• 语音 / 视觉：从“说话 / 图像”到结构化信息，自动化闭环

我常用的“加速包”

• Triton / Liger Kernel / CUDA 内核
• Qwen 系列与多模态、MoE 路线
• 推理量化与蒸馏、Paged Attention、Flash 系家族

作品（持续折腾中）

• Moment Notes：语音 → 文字 → 行动
• birthday.codes：把祝福也做出算力感
• VeOmni：多模态与训练实践的长期仓

价值观

• 速度与稳定并重：快是 KPI，稳是道德
• 小步快跑：能上线就别开会
• 端侧友好：隐私、低延迟、可维护

我偏好短反馈回路：先测量，保留负结果，把决策写下来——而不只是赢的那次。

如果你也在给模型减肥或让它飞起来，欢迎留言一起把“快又省”的路走通。也欢迎在 GitHub 找我，或发邮件到 im.qiancheng@gmail.com。