https://blog-shf.pages.dev/tags/int8/ Recent content in INT8 on Ge Zhang · 技术笔记 https://blog-shf.pages.dev/images/site-card.png https://blog-shf.pages.dev/images/site-card.png Hugo zh-CN 2026 Ge Zhang Tue, 28 Jul 2026 00:00:00 +0000 https://blog-shf.pages.dev/model-inference/quantization-granularity/ Tue, 28 Jul 2026 00:00:00 +0000 https://blog-shf.pages.dev/model-inference/quantization-granularity/ 从同一权重矩阵的数值分布出发，理解逐层、逐通道与逐组量化如何划分 scale 和 zero point，以及量化粒度对误差、元数据和计算内核的影响。 https://blog-shf.pages.dev/model-inference/model-quantization-fundamentals/ Tue, 28 Jul 2026 00:00:00 +0000 https://blog-shf.pages.dev/model-inference/model-quantization-fundamentals/ 从数值表示、线性量化公式和矩阵乘法出发，理解模型量化的误差来源、静态与动态量化、PTQ 与 QAT，以及精度和性能评估方法。