https://blog-shf.pages.dev/tags/%E6%8E%A8%E7%90%86%E5%8A%A0%E9%80%9F/ Recent content in 推理加速 on Ge Zhang · 技术笔记 Hugo zh Tue, 14 Jul 2026 00:00:00 +0000 https://blog-shf.pages.dev/papers/token-recycling/ Tue, 14 Jul 2026 00:00:00 +0000 https://blog-shf.pages.dev/papers/token-recycling/ 无需训练草稿模型，Token Recycling 用一个不到 2 MiB 的邻接矩阵回收目标模型已经算出的 top-k 候选，并通过草稿树与 Tree Attention 加速解码。