跳转到主要内容

Reading paths

专题阅读

按工程问题组织文章，从基础概念一路读到实现、性能模型与 trace 证据。
近期专题 5 篇

Prefill、混合架构与推理 Kernel

从调度基础、chunked prefill 和混合模型结构，一路读到真实 trace 证据。

开始阅读 →
  1. 01 基础 批处理与调度：推理服务的灵魂
  2. 02 调度 Chunked Prefill 深入分析：调度、Chunk Size 与 Attention 形状
  3. 03 机制 GDN 与 Chunked Prefill：为什么 prepare_chunk_indices 会出现在 trace 里
  4. 04 Trace Prefill Trace：Worker 供给、DSA/MLA 与 Chunked Prefill
  5. 05 对比 DeepSeek MLA：低秩 KV Cache 与推理效率