Zum Inhalt springen

~/notes

Notizen aus dem Data Science Studium. Code, Gedanken, Experimente.

LayerNorm vs. RMSNorm: Warum RMSNorm reicht

LayerNorm zentriert und skaliert, RMSNorm nur skaliert. Warum die Zentrierung verzichtbar ist, ohne Modellqualität zu verlieren, zeigt eine geometrische Erklärung.

15.02.2026·Blog