LayerNorm vs. RMSNorm: Warum RMSNorm reicht
LayerNorm zentriert und skaliert, RMSNorm nur skaliert. Warum die Zentrierung verzichtbar ist, ohne Modellqualität zu verlieren, zeigt eine geometrische Erklärung.
15.02.2026·Blog
~/notes
Notizen aus dem Data Science Studium. Code, Gedanken, Experimente.
PyTorch: Warum view() nach transpose() fehlschlägt
transpose() macht Tensoren non-contiguous (logische ≠ physische Reihenfolge). view() funktioniert nur mit contiguous Tensoren → RuntimeError. Lösung: reshape() statt view()!
31.10.2025·Blog
SwabianGPT: Wie ich ein LLM für Dialekt-Übersetzung feingetuned habe
Eine praktische Reise durch das Fine-Tuning eines LLAMA 3.1 Modells zur Übersetzung zwischen Standarddeutsch und schwäbischem Dialekt, Datenaufbereitung mit synthetischem Kontext, QLoRA-basierte …
02.01.2025·Blog
Building a Neural Network from Scratch with Python & NumPy
A beginner-friendly guide to neural networks: from individual neurons to a complete Python model that predicts house prices using NumPy.
27.08.2024·Blog
Lineare Regression im Machine Learning: Ein Einstieg für Anfänger
Ein verständlicher Einstieg in die lineare Regression mit Modell, Kostenfunktion und Gradientenabstieg, erklärt am Beispiel von Lernstunden und Noten.
25.01.2024·Blog