Modellklassen ordnen, Bias und Varianz begründen, Evaluation sauber aufsetzen: So lernst du maschinelles Lernen und bestehst die ML-Klausur.

"Die ML-Klausur fragt selten nach Verfahren, sondern nach Annahmen, Begründungen und Generalisierung."
Maschinelles Lernen ist in Informatik- und Data-Science-Studiengängen vom Spezialthema zum Kernmodul geworden — und es hat einen eigenen Lernfehler: Studierende sammeln Verfahren. Random Forest, SVM, k-Means, neuronale Netze, jeweils mit Definition und Beispielcode. In der Klausur steht dann aber nicht „Nenne drei Verfahren", sondern „Begründe, warum dein Modell auf neuen Daten schlechter abschneidet" oder „Leite die Verlustfunktion her". Maschinelles Lernen lernen heißt deshalb: drei Anforderungen trennen — rechnen, herleiten, einordnen. Dieser Plan zeigt dir, in welcher Reihenfolge du sie angehst.
Ein Blick in die Modulbeschreibungen lohnt sich, weil sie je nach Hochschultyp sehr unterschiedliche Prüfungsformen vorsehen. Drei Beispiele, die das Spektrum gut abbilden:
| Modul | Umfang | Prüfungsform |
|---|---|---|
| „Grundlagen Maschinelles Lernen" (Universität Bielefeld, 39-Inf-ML) | 5 LP, 150 Stunden (Vorlesung 60 h, Übung 30 h, Prüfung 60 h) | Portfolio aus Übungsaufgaben (50 % der Punkte nötig) plus Abschlussklausur ca. 60 Minuten oder mündliche Prüfung 15–25 Minuten; als Open-Book-Klausur 120–180 Minuten |
| „Mathematical Foundations of Machine Learning" (TU München, MA4801) | 6 Credits, 180 Stunden (60 Präsenz, 120 Eigenstudium) | schriftliche Prüfung, 60 Minuten |
| „Machine Learning" (Hochschule Worms, Modul 215) | 6 ECTS, 150 Stunden (60 Kontaktzeit, 90 Selbststudium) | Projektarbeit mit Kurzvortrag von 15 Minuten |
Daraus folgen zwei Dinge. Erstens: Die Prüfungsform entscheidet, was du üben musst. Eine 60-Minuten-Klausur verlangt Tempo bei Standardaufgaben und knappe, korrekte Begründungen. Eine Projektarbeit verlangt genau das Gegenteil — die Lernziele in Worms nennen ausdrücklich, Datenqualität kritisch zu bewerten, Algorithmen für ein Szenario auszuwählen und die eigenen Ergebnisse kritisch zu prüfen. Wer auf eine Projektarbeit mit Karteikarten lernt, lernt am Ziel vorbei.
Zweitens: Der Portfolio-Anteil in Bielefeld ist keine Formalie, sondern Zulassungsvoraussetzung — 50 Prozent der Übungspunkte sind Pflicht. Das Modul wird also über das Semester bestanden, nicht in der Woche davor. Prüfe zuerst im Modulhandbuch deiner Hochschule, welcher der drei Typen bei dir vorliegt, und plane danach.
ML-Module setzen Mathematik voraus, und zwar formal. In Bielefeld ist das Modul erst zugänglich, wenn Algorithmen und Datenstrukturen sowie Mathematik für Informatik I und II abgeschlossen sind. Das ist keine Schikane: Die Inhaltsliste nennt Schätzverfahren, Bayes'sches Lernen und lineare Ansätze — ohne Lineare Algebra und Wahrscheinlichkeitsrechnung bleibt davon nur Vokabular.
Du brauchst aber nicht das ganze Mathe-Studium. Drei Bereiche tragen den Großteil:
Arbeite diese Themen nicht parallel zum ML-Stoff durch, sondern bedarfsgetrieben: Wenn in der Vorlesung ein Gradient auftaucht und du stockst, ist das der Moment für zwei Stunden Optimierung — nicht drei Wochen Mathe-Wiederholung im Voraus. Für Herleitungen und Beweise, die in ML-Klausuren häufiger vorkommen als erwartet, hilft die Systematik aus dem Ratgeber zu Mathe im Studium mit Übungsblättern und Beweisen.
Der entscheidende Schritt gegen die Verfahrens-Sammlung: Sortiere nach Problemtyp und Annahme, nicht nach Namen. Die Prüfungsfrage lautet fast immer „Welches Verfahren passt hier und warum?", und das lässt sich nur beantworten, wenn du die Annahmen kennst.
| Problemtyp | Typische Verfahren | Kernannahme, die du nennen musst |
|---|---|---|
| Regression (stetige Zielgröße) | lineare Regression, Ridge, Lasso | linearer Zusammenhang, Fehler unabhängig und gleichverteilt |
| Klassifikation (diskrete Klassen) | logistische Regression, Naive Bayes, SVM, Entscheidungsbäume | Naive Bayes: Merkmale bedingt unabhängig; SVM: Trennbarkeit im (Kern-)Raum |
| Clustering (keine Labels) | k-Means, hierarchisches Clustering | k-Means: kugelförmige, gleich große Cluster, k vorgegeben |
| Dimensionsreduktion | PCA | Varianz trägt die Information, lineare Struktur |
Als begleitendes Nachschlagewerk eignet sich „Probabilistic Machine Learning: An Introduction" von Kevin P. Murphy (MIT Press, 2022): Der Autor stellt eine Entwurfsfassung des Buchs kostenlos als PDF unter einer CC-BY-NC-ND-Lizenz bereit, inklusive Code zu den Abbildungen. Für die Annahmen-Perspektive ist das nützlicher als ein Tutorial, weil die Verfahren dort konsequent über ihre Wahrscheinlichkeitsmodelle eingeführt werden.
Mit dieser Tabelle im Kopf beantwortest du Transferfragen, ohne das Verfahren je implementiert zu haben. Umgekehrt nützt dir perfekter Code nichts, wenn du nicht begründen kannst, warum k-Means bei langgezogenen Clustern scheitert. Die Theorie-Seite zeigt sich in der TUM-Inhaltsliste: Verlustfunktionen, Risikofunktionale, empirische Risikominimierung, Konsistenz und Komplexitätsschranken stehen dort gleichberechtigt neben neuronalen Netzen und Kernmethoden.
Bias vs. Varianz steht in Bielefeld explizit in der Inhaltsliste, bei der TUM als „Verzerrung-Varianz-Dilemma". Kein ML-Modul kommt ohne diese Frage aus, und sie ist in der Klausur fast immer eine Begründungsaufgabe. Die Definitionen in der scikit-learn-Dokumentation sind brauchbar knapp: Der Bias eines Schätzers ist sein durchschnittlicher Fehler über verschiedene Trainingsmengen, die Varianz gibt an, wie empfindlich er auf wechselnde Trainingsdaten reagiert — Rauschen dagegen ist eine Eigenschaft der Daten, nicht des Modells.
Das Standardbeispiel ist die Polynom-Anpassung: Ein Polynom ersten Grades ist zu einfach und passt sich schlecht an, also hoher Bias. Ein Polynom 15. Grades trifft die Trainingsdaten perfekt, reagiert aber extrem empfindlich auf wechselnde Trainingsdaten, also hohe Varianz. Lerne dazu die Diagnoseregel für Validierungskurven mit:
| Trainings-Score | Validierungs-Score | Diagnose |
|---|---|---|
| niedrig | niedrig | Underfitting (hoher Bias) |
| hoch | niedrig | Overfitting (hohe Varianz) |
| hoch | hoch | Modell arbeitet gut |
Ein niedriger Trainings- bei hohem Validierungs-Score ist laut Dokumentation in der Regel nicht möglich — ein guter Plausibilitätscheck für deine eigenen Klausurantworten. Wichtig ist auch die zweite Hälfte der Antwort: Mehr Trainingsdaten senken die Varianz, aber nur dann sinnvoll, wenn die zugrunde liegende Funktion zu komplex für einen Schätzer mit geringerer Varianz ist. Lernkurven zeigen das direkt — konvergieren Trainings- und Validierungskurve auf niedrigem Niveau, bringen mehr Daten wenig; liegt der Trainings-Score bei kleinen Datenmengen deutlich über dem Validierungs-Score, verbessern zusätzliche Beispiele die Generalisierung voraussichtlich.
Der häufigste inhaltliche Fehler in Klausuren und Projektarbeiten betrifft die Datenaufteilung. Die scikit-learn-Dokumentation formuliert es als methodischen Fehler, ein Modell auf denselben Daten zu testen, auf denen es gelernt hat: Ein Modell, das nur die gesehenen Labels wiederholt, erreicht eine perfekte Bewertung und sagt trotzdem nichts Nützliches über neue Daten vorher.
Entscheidend ist die zweite Stufe, die oft übersehen wird: Auch wer Hyperparameter am Testset optimiert, überanpasst — an das Testset. Wissen über die Testdaten „sickert" ins Modell, und die Kennzahlen messen dann keine Generalisierung mehr. Die saubere Antwort lautet deshalb: Testset für die finale Bewertung beiseitelegen, Modellauswahl per k-facher Kreuzvalidierung auf den Trainingsdaten. Dabei wird die Trainingsmenge in k Teile geteilt, das Modell jeweils auf k−1 Teilen trainiert und auf dem Rest validiert; berichtet wird der Mittelwert. Das kostet Rechenzeit, verschwendet aber weniger Daten als ein fest abgetrenntes Validierungsset.
Merke dir dazu einen Satz, der in Projektarbeiten Punkte bringt: Vorverarbeitung wird nur auf den Trainingsdaten angepasst, nie auf dem gesamten Datensatz — sonst fließt Information aus Test- in Trainingsdaten. In Pipelines lässt sich das sauber umsetzen. Die Modulbeschreibung aus Worms nennt genau diese Kette als Inhalt: heterogene Daten bereinigen und aufbereiten, dabei jeden Schritt mit einfachen Tests prüfen, nach Datentyp in Trainings-, Test- und Validierungsdaten aufteilen und Hypothesen anhand der Validierungsergebnisse revidieren.
ML-Übungsblätter haben zwei Teile mit sehr unterschiedlichem Zeitbedarf: einen Rechen- und Herleitungsteil und einen Programmierteil. Der Programmierteil frisst erfahrungsgemäß die Zeit, der Theorieteil entscheidet die Klausur. Teile deine Woche entsprechend und nicht nach Spaß.
Ein belastbarer Wochenrhythmus für ein Modul mit rund 150 Stunden Workload, also etwa 8–10 Stunden pro Woche:
Vor der Prüfung ersetzt kein Zusammenfassen das Abfragen. Baue dir aus den Annahmen-Tabellen gemischte Fragen und beantworte sie aus dem Kopf — wie du dafür systematisch vorgehst, steht im Ratgeber zu selbst erstellten Probeklausuren. Wenn du Vorlesungsskript und Übungsblätter als PDF hast, kannst du den Abfrage-Teil mit Learnboost abkürzen: Aus deinen Unterlagen entstehen Karteikarten und Probeklausuren, die genau deinen Stoff abfragen statt allgemeiner ML-Fragen. Das Beweisen und Herleiten bleibt trotzdem Handarbeit.
Weil ML auf Algorithmen und Datenstrukturen aufbaut, lohnt vor Semesterbeginn ein Blick auf den 5-Schritte-Plan für Algorithmen und Datenstrukturen — Laufzeitabschätzungen tauchen in ML-Klausuren bei Komplexitätsfragen wieder auf. Und wenn du den Mathe-Block als eigentliche Hürde erkennst, findest du unter Klausurvorbereitung für Mathe und Statistik, wie du Übungsaufgaben und Wiederholung mit Learnboost strukturierst.
Fang mit dem Modulhandbuch an, nicht mit dem Lehrbuch: Prüfungsform klären, Mathe-Lücken notieren, Annahmen-Tabelle anlegen. Danach ist maschinelles Lernen ein Fach wie andere auch — nur mit mehr Begründungspflicht.
Das Fach gilt als anspruchsvoll, weil es Mathematik, Programmierung und Begründungsarbeit verbindet. Die formalen Voraussetzungen zeigen das deutlich: In Bielefeld ist das Modul „Grundlagen Maschinelles Lernen" erst nach Algorithmen und Datenstrukturen sowie Mathematik für Informatik I und II zugänglich. Schwer wird es vor allem dann, wenn man es als Programmierfach behandelt und den Theorieteil auf die letzten Wochen schiebt.
Drei Bereiche tragen den Großteil: Lineare Algebra (Matrizen, Rang, Eigenwerte, Projektionen), Wahrscheinlichkeitsrechnung und Statistik (bedingte Wahrscheinlichkeit, Satz von Bayes, Erwartungswert, Varianz, Maximum-Likelihood) und Optimierung (Gradient, Konvexität, Lagrange-Multiplikatoren). Du brauchst sie nicht vollständig im Voraus, sondern bedarfsgetrieben: Wenn in der Vorlesung ein Gradient auftaucht und du stockst, ist das der Moment zum Nachholen.
Lerne zuerst die Definitionen präzise: Der Bias ist der durchschnittliche Fehler eines Schätzers über verschiedene Trainingsmengen, die Varianz beschreibt seine Empfindlichkeit gegenüber wechselnden Trainingsdaten. Rauschen ist dagegen eine Eigenschaft der Daten. Dazu gehört die Diagnoseregel: beide Scores niedrig bedeutet Underfitting, hoher Trainings- bei niedrigem Validierungs-Score bedeutet Overfitting. Üben lässt sich das am Polynom-Beispiel, bei dem Grad 1 zu einfach und Grad 15 zu empfindlich ist.
Nein, und das ist eine klassische Prüfungsfrage. Wer Hyperparameter am Testset optimiert, überanpasst an das Testset: Wissen über die Testdaten sickert ins Modell und die Kennzahlen messen keine Generalisierung mehr. Richtig ist, das Testset für die finale Bewertung beiseitezulegen und die Modellauswahl per k-facher Kreuzvalidierung auf den Trainingsdaten vorzunehmen.
Die Modulbeschreibungen nennen 150 bis 180 Stunden Workload für 5 bis 6 Credits, also rund 8 bis 10 Stunden pro Woche im Semester. Sinnvoll aufgeteilt sind das etwa zwei Stunden Vorlesungsnacharbeit, drei Stunden Theorieteil des Übungsblatts, drei Stunden Programmierteil und eine Stunde Fehlerauswertung. Wo ein Portfolio Zulassungsvoraussetzung ist — in Bielefeld 50 Prozent der Übungspunkte — ist dieser Rhythmus Pflicht, nicht Empfehlung.