https://blog-shf.pages.dev/tags/%E6%AE%8B%E5%B7%AE%E8%BF%9E%E6%8E%A5/ Recent content in 残差连接 on Ge Zhang · 技术笔记 https://blog-shf.pages.dev/images/site-card.png https://blog-shf.pages.dev/images/site-card.png Hugo zh-CN 2026 Ge Zhang Mon, 20 Jul 2026 00:00:00 +0000 https://blog-shf.pages.dev/ai-fundamentals/add-layernorm/ Mon, 20 Jul 2026 00:00:00 +0000 https://blog-shf.pages.dev/ai-fundamentals/add-layernorm/ 分析 Transformer 中 Add & Norm 的两个核心组成：残差连接如何改善深层网络训练，LayerNorm 如何稳定隐藏状态的数值尺度。