https://blog-shf.pages.dev/tags/swiglu/ Recent content in SwiGLU on Ge Zhang · 技术笔记 https://blog-shf.pages.dev/images/site-card.png https://blog-shf.pages.dev/images/site-card.png Hugo zh-CN 2026 Ge Zhang Tue, 21 Jul 2026 00:00:00 +0000 https://blog-shf.pages.dev/ai-fundamentals/feedforward/ Tue, 21 Jul 2026 00:00:00 +0000 https://blog-shf.pages.dev/ai-fundamentals/feedforward/ 从激活函数和前馈网络出发，理解 Transformer FFN 的升维、非线性变换、逐 token 计算，以及现代大模型中的 SwiGLU 门控结构。