Inference 5

• LLM 推理服务：预填充、解码与请求调度 Apr 9, 2026
• PagedAttention：把 KV Cache 分成可管理的块 Feb 4, 2026
• FlashAttention：分块计算与在线 Softmax Feb 4, 2026
• SpecEdge 阅读笔记：用边缘草稿分担大模型推理 Jan 13, 2026
• DICE 阅读笔记：并行扩散推理中的激活陈旧性 Oct 8, 2025