Add&LayerNorm

从残差连接、梯度传播、信息保留到 LayerNorm 的计算、可学习参数及其与 BatchNorm 的区别,系统理解 Transformer 中的 Add & Norm。

2026 年 07 月 20 日 · 7 分钟 · 3213 字 · Ge Zhang