.svg)
Die Regressionsanalyse steht in Psychologie, BWL und den Sozialwissenschaften im Zentrum der Methodenausbildung – meist aufbauend auf Kovarianz und Korrelation aus der deskriptiven Statistik. Der Schritt ist größer, als er aussieht: Eine Korrelation stellt nur fest, dass zwei Merkmale zusammenhängen. Eine Regression macht daraus ein Modell, das Werte vorhersagt und den Zusammenhang in eine interpretierbare Zahl übersetzt – so viel Zielgröße pro Einheit Prädiktor. Genau diese Interpretation wird in der Statistik Klausur geprüft, vom Achsenabschnitt über die Steigung bis zum Bestimmtheitsmaß R².
Diese Regressionsanalyse Zusammenfassung beginnt bei der einfachen linearen Regression: Modellgleichung mit Fehlerterm, das OLS-Prinzip der kleinsten Quadrate, ein vollständig durchgerechnetes Beispiel sowie R² und Standardschätzfehler als Gütemaße. Darauf baut der klausurentscheidende Teil auf. Wer eine multiple Regression interpretieren will, braucht die Ceteris-paribus-Logik – jeder Koeffizient gilt bei Konstanthaltung der übrigen Prädiktoren –, dazu adjustiertes R², standardisierte Koeffizienten, Dummy-Variablen für kategoriale Merkmale und den sicheren Blick auf t- und F-Werte im Regressions-Output. Voraussetzungen, Multikollinearität und die logistische Regression als Ausblick runden das Modul ab.
Besonderes Gewicht liegt auf den Fehlern, die in Klausuren und in der Praxis am teuersten sind: Vorhersagen außerhalb des beobachteten Datenbereichs, der Kurzschluss von Korrelation auf Kausalität, die Verwechslung von Signifikanz und Relevanz und die Jagd nach einem möglichst hohen R². Alle Rechenbeispiele sind vollständig durchgerechnet, und die Übungsfragen unten simulieren typische Klausuraufgaben – vom Berechnen der Koeffizienten bis zum zeilenweisen Interpretieren eines Regressions-Outputs. Du kannst alles direkt hier durcharbeiten – oder die Inhalte kostenfrei in deinen Learnboost Account übernehmen und dort mit Spaced Repetition, Lernplan und KI-Tutor bis zur Klausur weiterlernen.
Übernimm diese Inhalte kostenfrei in deinen Learnboost Account — dann arbeiten sie für dich weiter: Spaced Repetition bringt jede Karte zurück, kurz bevor du sie vergisst. So stehst du zur nächsten Klausur nicht wieder am Anfang.
Kostenlos starten · Keine Kreditkarte · Deine eigenen Unterlagen bleiben privat
Die Regressionsanalyse modelliert, wie eine Zielgröße von einem oder mehreren Prädiktoren abhängt – um vorherzusagen und um Zusammenhänge interpretierbar zu machen. Kovarianz und Korrelation werden vorausgesetzt: Die Lernseite zur deskriptiven Statistik leitet sie her und zeigt die Regressionsgerade im Überblick; hier wird sie vertieft und zur multiplen Regression erweitert.
Anders als die Korrelation, die beide Merkmale gleich behandelt, verteilt die Regression Rollen: Die Zielgröße y (Kriterium, abhängige Variable) wird durch Prädiktoren x (unabhängige Variablen) modelliert. Eine Grenze gilt von Anfang an: Auf Beobachtungsdaten belegt eine Regression Zusammenhänge, keine Ursachen – kausale Aussagen rechtfertigt das Untersuchungsdesign, etwa ein randomisiertes Experiment, nicht die Rechenmethode.
Das einfache lineare Modell lautet y = β₀ + β₁ · x + ε. Der Fehlerterm ε bündelt alle nicht erfassten Einflüsse und Messfehler; deshalb streuen die Punkte um die Gerade. Aus der Stichprobe werden b₀ und b₁ geschätzt, die Vorhersage ist ŷ = b₀ + b₁ · x, und die beobachtbaren Abweichungen e = y − ŷ heißen Residuen. Die Methode der kleinsten Quadrate (OLS) wählt die Gerade mit der kleinsten Summe der quadrierten Residuen. Quadriert wird, weil sich in der einfachen Summe positive und negative Abweichungen aufheben würden; das Quadrat macht alle Abstände positiv, bestraft große Fehler überproportional und liefert eine eindeutige Lösung mit geschlossenen Formeln: b₁ = sxy/sx² – Kovarianz durch Varianz von x, wobei sich der Nenner (n oder n − 1) kürzt – und b₀ = ȳ − b₁ · x̄. Die OLS-Gerade läuft durch den Schwerpunkt (x̄ | ȳ), ihre Residuen summieren sich zu null.
Fünf Studierende, Lernstunden x: 2, 4, 6, 8, 10 und Klausurpunkte y: 45, 40, 60, 80, 75. Mittelwerte: x̄ = 6, ȳ = 60. Die Abweichungsprodukte (x − x̄)(y − ȳ) betragen 60, 40, 0, 40, 60, in Summe 200; die quadrierten x-Abweichungen 16, 4, 0, 4, 16, in Summe 40. Also b₁ = 200/40 = 5 und b₀ = 60 − 5 · 6 = 30, die Gerade lautet ŷ = 30 + 5 · x. Interpretation mit Einheiten: Pro zusätzlicher Lernstunde steigt die vorhergesagte Punktzahl im Mittel um 5 Punkte. b₀ = 30 ist die Vorhersage für null Lernstunden – knapp außerhalb des beobachteten Bereichs (2 bis 10) und nur mit Vorsicht deutbar; oft ist der Achsenabschnitt reine Rechengröße, etwa das Gewicht bei Körpergröße null. Residuum: Für x = 4 sagt das Modell 50 voraus, beobachtet sind 40, also e = −10. Vorhersage für x = 7: ŷ = 30 + 35 = 65 Punkte.
Die Gesamtstreuung der y-Werte (SST) zerfällt in erklärte Streuung (SSR) und Residualstreuung (SSE): SST = SSR + SSE, im Beispiel 1250 = 1000 + 250. Das Bestimmtheitsmaß R² = SSR/SST = 1000/1250 = 0,80 bedeutet: 80 % der Varianz der Klausurpunkte werden durch die Lernzeit statistisch erklärt; im einfachen Modell ist R² zugleich r². Zwei Grenzen sind klausurrelevant: Ein hohes R² belegt weder ein richtiges noch ein kausales Modell – auch konfundierte oder überangepasste Modelle erreichen hohe Werte. Und ein niedriges R² macht ein Modell nicht wertlos: In Psychologie und Sozialwissenschaften sind 0,1 bis 0,3 üblich, ein kleiner, stabiler Effekt kann praktisch bedeutsam sein. Der Standardschätzfehler se = √(SSE/(n − 2)) – hier √(250/3) ≈ 9,1 Punkte – beziffert die typische Abweichung der Beobachtungen von der Vorhersage in der Einheit der Zielgröße – oft anschaulicher als R².
Mit mehreren Prädiktoren lautet das Modell ŷ = b₀ + b₁ · x₁ + b₂ · x₂ + … + bk · xk. Kern und häufigste Klausurfrage ist die Interpretation: bj gibt an, um wie viel sich die Vorhersage ändert, wenn xj um eine Einheit steigt und alle übrigen Prädiktoren konstant gehalten werden (ceteris paribus). Miete = 250 + 9 · Fläche − 30 · Entfernung heißt: 9 € mehr pro Quadratmeter bei gleicher Entfernung, 30 € weniger pro Kilometer bei gleicher Fläche.
Warum sich Koeffizienten gegenüber der einfachen Regression ändern, zeigt ein Konfundierungs-Szenario mit sechs Studierenden (Lernstunden; Kaffeetassen; Klausurpunkte): (2; 1; 40), (2; 2; 40), (6; 2; 60), (6; 4; 60), (10; 4; 80), (10; 5; 80). Die einfache Regression der Punkte auf den Kaffeekonsum ergibt ŷ = 30 + 10 · Tassen – scheinbar 10 Punkte pro Tasse, mit R² = 0,75. Nimmt man die Lernzeit als zweiten Prädiktor auf, fällt der Kaffee-Koeffizient auf 0, und die Lernzeit erhält 5 Punkte pro Stunde: In diesen Daten hängen die Punkte allein an der Lernzeit; Kaffee lief nur mit, weil Viellernende mehr Kaffee trinken. Die einfache Regression misst so den Brutto-Zusammenhang, die multiple rechnet gemessene Konfundierer heraus.
R² kann beim Hinzufügen eines Prädiktors nie sinken: Schlimmstenfalls erhält der neue Prädiktor das Gewicht 0, die Residualstreuung wird höchstens kleiner – selbst Zufallsvariablen treiben R² leicht nach oben. Für Modellvergleiche dient deshalb das adjustierte R² = 1 − (1 − R²) · (n − 1)/(n − k − 1) mit k Prädiktoren: Es bestraft Komplexität und kann sinken. Mit n = 30 kommt Modell A (3 Prädiktoren, R² = 0,64) adjustiert auf 0,598, Modell B (5 Prädiktoren, R² = 0,65) nur auf 0,577 – das sparsamere Modell A gewinnt. Standardisierte Koeffizienten (Beta) entstehen durch z-Standardisierung aller Variablen: Sie messen Änderungen in Standardabweichungen und machen Prädiktoren verschiedener Einheiten im selben Modell vergleichbar. Beta = 0,65 für die Fläche gegenüber −0,28 für die Entfernung heißt: Die Fläche ist der stärkere Prädiktor – rohe b-Werte hängen dafür zu sehr an den Einheiten.
Kategoriale Prädiktoren kommen als Dummy-Variablen (0/1) ins Modell. Der Koeffizient ist der mittlere Unterschied zur Referenzkategorie – der Gruppe mit dem Wert 0 – bei Konstanthaltung der übrigen Prädiktoren: In Miete = 240 + 8,5 · Fläche − 28 · Entfernung + 45 · Balkon kosten Balkonwohnungen im Mittel 45 € mehr als vergleichbare Wohnungen ohne Balkon. Für ein Merkmal mit k Kategorien gehören k − 1 Dummies ins Modell – eine Kategorie bleibt Referenz, sonst entsteht perfekte Redundanz mit der Konstanten; jeder Koeffizient vergleicht mit der Referenz, nicht mit beliebigen Gruppen. Ein Nur-Dummy-Modell zeigt die Logik pur: Gehalt = 2800 + 400 · D mit D = 1 für Master heißt Bachelor im Mittel 2800 €, Master 3200 €.
Zu jedem Koeffizienten liefert der Output einen t-Test (Nullhypothese βj = 0, gegeben die übrigen Prädiktoren; Prüfgröße t = bj geteilt durch seinen Standardfehler), zum Gesamtmodell einen F-Test (Nullhypothese: alle Steigungen sind null). Die Testlogik mit p-Wert, Signifikanzniveau und Fehlerarten erklärt die Lernseite zu den Grundlagen der Hypothesentests – hier zählt das Lesen. Beispiel-Output (n = 50 Mietwohnungen): Fläche b = 9, Standardfehler 1,5, t = 6,0, p < 0,001 – signifikant. Entfernung b = −30, Standardfehler 12, t = −2,5, p = 0,016 – signifikant auf dem 5-%-Niveau. R² = 0,72, adjustiert 0,708; F = 60,4 mit p < 0,001 – das Modell erklärt insgesamt Varianz. Merke: Ein signifikanter F-Test macht nicht jeden einzelnen Prädiktor signifikant, und Signifikanz ist keine Relevanz.
Vier Annahmen sichern Schätzung und Tests ab; geprüft wird vor allem grafisch am Residuenplot (Residuen gegen vorhergesagte Werte). Linearität: Ein Bogen im Plot zeigt einen verpassten nichtlinearen Zusammenhang. Unabhängigkeit der Fehler: Bei Zeitreihen deuten Wellenmuster der Residuen auf Autokorrelation. Homoskedastizität: Öffnet sich der Plot wie ein Trichter, wächst die Fehlervarianz – Heteroskedastizität. Normalverteilung der Residuen: per Histogramm oder QQ-Plot; wichtig vor allem für exakte Tests bei kleinen Stichproben, nicht für die Koeffizientenschätzung selbst. Dazu kommen Ausreißer (große Residuen) und einflussreiche Punkte: Extreme x-Werte (Hebelpunkte) können die Gerade zu sich ziehen. Diagnose-Idee: einmal mit und einmal ohne den Punkt rechnen; korrekte Beobachtungen werden berichtet, nicht stillschweigend gelöscht.
Sind Prädiktoren untereinander stark korreliert, kann das Modell ihre Beiträge kaum trennen. Symptome: Koeffizienten springen bei kleinen Datenänderungen oder wechseln das Vorzeichen, Standardfehler werden groß, der F-Test ist signifikant, obwohl kein einzelner t-Test es ist. Kennzahl ist der Varianzinflationsfaktor VIF = 1/(1 − Rj²) mit Rj² aus der Regression des Prädiktors j auf alle übrigen; ab etwa VIF größer 10 (Rj² über 0,9) gilt es als kritisch. Wichtig: Die Gesamtvorhersage leidet nicht zwingend – R² und ŷ können stabil bleiben, unsicher wird die Zurechnung auf einzelne Prädiktoren. Abhilfen: redundante Prädiktoren zusammenfassen oder weglassen, mehr Daten erheben.
Vier Fallen kosten regelmäßig Punkte. Extrapolation: ŷ = 30 + 5 · x wurde für 2 bis 10 Lernstunden geschätzt; für x = 40 liefert die Formel 230 Punkte, obwohl die Klausur bei 100 endet – außerhalb des beobachteten Bereichs ist die Gerade nicht gedeckt. Korrelation zu Kausalität: Eisverkauf sagt Sonnenbrände vorher, Ursache sind die Sonnentage dahinter. Signifikanz gleich Relevanz: Bei n = 10.000 wird auch ein Koeffizient von 0,1 Punkten signifikant – praktisch bedeutsam macht ihn das nicht. R²-Jagd: Wer Prädiktoren stapelt, bis R² glänzt, passt das Modell ans Zufallsrauschen an (Overfitting) – an neuen Daten bricht die Vorhersage ein; sparsame Modelle mit begründeten Prädiktoren sind die Regel.
Ist die Zielgröße binär – bestanden oder nicht –, passt das lineare Modell nicht: Es würde Wahrscheinlichkeiten unter 0 und über 1 vorhersagen. Die logistische Regression modelliert die Wahrscheinlichkeit des Ereignisses über die Odds p/(1 − p), deren Logarithmus linear von den Prädiktoren abhängt; interpretiert wird meist über Odds Ratios. Merkregel: metrische Zielgröße lineare, binäre Zielgröße logistische Regression.
Arbeite mit dieser Zusammenfassung weiter — kostenfrei in deinem Learnboost Account.
Zusammenfassung übernehmenFrage antippen, um die Antwort aufzudecken.
Die Korrelation misst nur Stärke und Richtung eines linearen Zusammenhangs und behandelt beide Merkmale gleichberechtigt. Die Regression verteilt Rollen: Eine Zielgröße y (Kriterium) wird durch einen oder mehrere Prädiktoren x modelliert. Das Ergebnis ist eine Gleichung, die Vorhersagen erlaubt und den Zusammenhang als interpretierbare Zahl mit Einheiten ausdrückt – Änderung von y pro Einheit x. Über Ursache und Wirkung sagt sie ohne experimentelles Design nichts aus.
y = β₀ + β₁ · x + ε. β₀ ist der Achsenabschnitt, β₁ die Steigung in der Grundgesamtheit; aus der Stichprobe werden sie als b₀ und b₁ geschätzt. Der Fehlerterm ε bündelt alle Einflüsse auf y, die das Modell nicht erfasst, plus Messfehler – deshalb liegen die Beobachtungen nicht exakt auf der Geraden. Die geschätzte Gerade schreibt man ŷ = b₀ + b₁ · x; die beobachtbaren Abweichungen e = y − ŷ heißen Residuen.
Die einfache Summe der Abweichungen ist als Kriterium unbrauchbar, weil sich positive und negative Abweichungen aufheben – schon jede Gerade durch den Schwerpunkt (x̄ | ȳ) bringt sie auf null. Das Quadrieren macht alle Abweichungen positiv, gewichtet große Fehler überproportional stark und führt zu einer eindeutigen Lösung mit geschlossenen Formeln für b₀ und b₁. Die Alternative über Absolutbeträge existiert, ist aber rechnerisch unhandlicher und in der Grundausbildung nicht der Standard.
b₁ = sxy/sx² (Kovarianz durch Varianz von x) und b₀ = ȳ − b₁ · x̄. Hier: x̄ = 6, ȳ = 60. Summe der Abweichungsprodukte: 60 + 40 + 0 + 40 + 60 = 200; Summe der quadrierten x-Abweichungen: 40. Also b₁ = 200/40 = 5 und b₀ = 60 − 5 · 6 = 30, Gerade ŷ = 30 + 5 · x. Ob Kovarianz und Varianz mit n oder n − 1 berechnet werden, ist egal – der Nenner kürzt sich. Die OLS-Gerade läuft immer durch den Schwerpunkt (x̄ | ȳ), und die Residuen summieren sich zu null.
b₀ ist die Vorhersage für x = 0. Inhaltlich deutbar ist das nur, wenn x = 0 möglich ist und im oder nahe am beobachteten Datenbereich liegt. Bei einer Regression von Gewicht auf Körpergröße wäre b₀ das Gewicht bei Größe null – eine reine Rechengröße ohne Bedeutung. Im Lernzeit-Beispiel mit beobachteten 2 bis 10 Stunden ist b₀ = 30 die Vorhersage für null Lernstunden: knapp außerhalb des Bereichs, also nur mit Vorsicht interpretierbar. Für die Vorhersagegleichung wird b₀ trotzdem immer gebraucht.
Das Residuum ist die Differenz zwischen Beobachtung und Vorhersage: e = y − ŷ. Für x = 4 sagt das Modell ŷ = 30 + 5 · 4 = 50 voraus; beobachtet wurden 40 Punkte, also e = 40 − 50 = −10. Die Person liegt 10 Punkte unter der Modellvorhersage. Positive Residuen liegen über der Geraden, negative darunter; bei einer OLS-Geraden mit Achsenabschnitt summieren sich alle Residuen zu null.
Die Gesamtstreuung der y-Werte um ihren Mittelwert (SST) zerfällt in den vom Modell erklärten Teil (SSR, Streuung der ŷ um ȳ) und die Residualstreuung (SSE, Streuung der y um ŷ): SST = SSR + SSE. R² = SSR/SST = 1 − SSE/SST ist der Anteil der statistisch erklärten Varianz. Im Beispiel: SSR = 1250 − 250 = 1000, also R² = 1000/1250 = 0,80 – 80 % der Streuung der Klausurpunkte werden durch die Lernzeit statistisch erklärt. Im einfachen linearen Modell gilt zusätzlich R² = r².
ŷ = b₀ + b₁ · x₁ + b₂ · x₂ + … + bk · xk. Jeder Koeffizient bj gibt an, um wie viel sich die Vorhersage ändert, wenn xj um eine Einheit steigt und alle übrigen Prädiktoren konstant gehalten werden – ceteris paribus. Das ist der entscheidende Unterschied zur einfachen Regression: Dort steckt im Koeffizienten der Brutto-Zusammenhang inklusive aller Einflüsse, die mit x mitlaufen; im multiplen Modell ist es der bereinigte Beitrag des einzelnen Prädiktors im Kontext der anderen.
Weil die einfache Regression Konfundierung nicht herausrechnen kann. Sechs Studierende (Lernstunden; Kaffeetassen; Punkte): (2; 1; 40), (2; 2; 40), (6; 2; 60), (6; 4; 60), (10; 4; 80), (10; 5; 80). Die einfache Regression der Punkte auf Kaffee ergibt +10 Punkte pro Tasse. Mit der Lernzeit als zweitem Prädiktor fällt der Kaffee-Koeffizient auf 0, die Lernzeit erhält +5 Punkte pro Stunde: Die Punkte hängen in diesen Daten allein an der Lernzeit, Kaffee lief nur mit, weil Viellernende mehr Kaffee trinken. Der einfache Koeffizient war ein Stellvertreter-Effekt der Drittvariablen.
OLS wählt die Koeffizienten so, dass die Residualstreuung minimal ist. Ein zusätzlicher Prädiktor kann die Anpassung nur verbessern oder unverändert lassen – schlimmstenfalls bekommt er den Koeffizienten 0, und das alte Modell bleibt bestehen. Deshalb steigt R² mechanisch mit jedem Prädiktor, selbst bei reinen Zufallsvariablen. Das adjustierte R² = 1 − (1 − R²) · (n − 1)/(n − k − 1) bestraft die Zahl der Prädiktoren k und kann sinken, wenn der Zugewinn die zusätzliche Komplexität nicht rechtfertigt. Für den Vergleich von Modellen mit unterschiedlich vielen Prädiktoren ist es deshalb das passende Maß.
Eine 0/1-codierte Variable, die ein kategoriales Merkmal ins Modell bringt, etwa Balkon: ja = 1, nein = 0. Der Koeffizient ist der mittlere Unterschied zur Referenzkategorie (der Gruppe mit 0) bei Konstanthaltung der übrigen Prädiktoren: In Miete = 240 + 8,5 · Fläche − 28 · Entfernung + 45 · Balkon kosten Balkonwohnungen im Mittel 45 € mehr als vergleichbare ohne Balkon. In einem Modell nur mit einem Dummy gilt: b₀ ist der Mittelwert der Referenzgruppe, b₀ + b₁ der Mittelwert der anderen Gruppe. Gehalt = 2800 + 400 · D mit D = 1 für Master heißt: Bachelor im Mittel 2800 €, Master 3200 €.
Der t-Test prüft je Koeffizient die Nullhypothese βj = 0 – trägt dieser Prädiktor bei Konstanthaltung der übrigen etwas zur Erklärung bei? Prüfgröße ist t = bj geteilt durch seinen Standardfehler. Der F-Test prüft das Modell als Ganzes: Nullhypothese ist, dass alle Steigungskoeffizienten gleichzeitig null sind. Ein signifikanter F-Test heißt nur, dass das Modell insgesamt Varianz erklärt – nicht, dass jeder einzelne Prädiktor signifikant ist. Die Testlogik mit p-Wert, Signifikanzniveau und Fehlerarten ist Stoff der Hypothesentests.
1. Linearität: Der Zusammenhang ist linear – ein Bogen im Residuenplot (Residuen gegen vorhergesagte Werte) zeigt eine Verletzung. 2. Unabhängigkeit der Fehler: Die Residuen dürfen sich nicht systematisch aufeinander beziehen – bei Zeitreihen deuten Wellenmuster auf Autokorrelation. 3. Homoskedastizität: konstante Fehlervarianz – eine Trichterform im Residuenplot zeigt Heteroskedastizität. 4. Normalverteilung der Residuen: per Histogramm oder QQ-Plot prüfbar; wichtig vor allem für Tests und Intervalle bei kleinen Stichproben, nicht für die Berechnung der Koeffizienten selbst.
Ein Ausreißer weicht in y stark von der Vorhersage ab, hat also ein großes Residuum. Ein Hebelpunkt liegt bei den x-Werten weit außen; er kann die Gerade stark zu sich ziehen und b₀ und b₁ massiv verändern – oft bei unauffälligem Residuum. Diagnose-Idee: das Modell einmal mit und einmal ohne den Punkt rechnen und die Koeffizienten vergleichen; formalisiert leistet das die Cook-Distanz. Umgang: zuerst prüfen, ob ein Datenfehler vorliegt. Echte, korrekte Beobachtungen werden nicht stillschweigend gelöscht, sondern berichtet und gegebenenfalls mit Sensitivitätsanalysen behandelt.
Starke Korrelation der Prädiktoren untereinander. Symptome: Koeffizienten, die bei kleinen Datenänderungen springen oder das Vorzeichen wechseln, große Standardfehler und das Muster eines signifikanten F-Tests ohne einzelne signifikante t-Tests. Kennzahl ist der Varianzinflationsfaktor VIF = 1/(1 − Rj²), wobei Rj² aus der Regression des Prädiktors j auf alle übrigen stammt; ab etwa VIF größer 10 (Rj² über 0,9) gilt es als kritisch. Nicht zwingend beeinträchtigt ist die Gesamtvorhersage: R² und die vorhergesagten Werte können gut bleiben – unsicher wird nur die Zurechnung des Effekts auf einzelne Prädiktoren.
Die Regression schätzt Zusammenhänge in den vorliegenden Daten. Bei Beobachtungsdaten können Drittvariablen Prädiktor und Zielgröße gemeinsam beeinflussen, die Wirkrichtung kann umgekehrt verlaufen, und Selektionseffekte können den Zusammenhang erzeugen. Auch die Kontrolle gemessener Drittvariablen im multiplen Modell schließt unbeobachtete Konfundierer nicht aus. Kausal belastbar wird ein Effekt durch das Untersuchungsdesign – vor allem durch randomisierte Experimente, in denen der Zufall die Zuordnung zu den Bedingungen übernimmt. Kurz: Kausalität liefert das Design, nicht die Rechenmethode.
Wenn die Zielgröße binär ist, etwa Klausur bestanden oder nicht bestanden. Ein lineares Modell würde Vorhersagen unter 0 und über 1 liefern und passt nicht zur Struktur der Daten. Die logistische Regression modelliert stattdessen die Wahrscheinlichkeit des Ereignisses über die Odds – das Verhältnis p/(1 − p) –, deren Logarithmus linear von den Prädiktoren abhängt. Interpretiert wird deshalb meist über Odds Ratios. Merkregel: metrische Zielgröße lineare Regression, binäre Zielgröße logistische Regression.
Lerne diese Karten mit Spaced Repetition weiter — kostenfrei in deinem Learnboost Account.
Lernkarten übernehmenLösung:
x̄ = 5, ȳ = 20. Abweichungsprodukte (x − x̄)(y − ȳ): (−3)·(−10) = 30, (−1)·0 = 0, 1·0 = 0, 3·10 = 30, Summe 60. Quadrierte x-Abweichungen: 9 + 1 + 1 + 9 = 20. Also b₁ = 60/20 = 3.
Mit b₀ = 20 − 3 · 5 = 5 lautet die Gerade ŷ = 5 + 3 · x: Pro zusätzlichem Übungsblatt steigt die vorhergesagte Punktzahl im Mittel um 3 Punkte. Der Wert 0,33 entsteht, wenn Zähler und Nenner vertauscht werden, 60 ist nur der Zähler, und 15 ergibt sich, wenn fälschlich durch n = 4 statt durch die Summe der quadrierten x-Abweichungen geteilt wird.
Lösung:
In der multiplen Regression gilt jeder Koeffizient ceteris paribus: Pro Quadratmeter mehr Fläche steigt die vorhergesagte Miete im Mittel um 9 €, bei Konstanthaltung der Entfernung.
Zwei Abgrenzungen sind klausurrelevant. Erstens ist 9 der bereinigte Beitrag der Fläche im Modell mit Entfernung – der einfache Zusammenhang ohne diese Kontrolle wäre im Allgemeinen ein anderer Wert. Zweitens beschreibt der Koeffizient einen mittleren Unterschied in Beobachtungsdaten, keine exakte Preisregel je Wohnung und keine nachgewiesene Ursache-Wirkungs-Beziehung.
Lösung:
Zutreffend sind die drei Aussagen zur Mechanik und zum Modellvergleich: R² sinkt beim Hinzufügen nie, das adjustierte R² kann sinken, und genau deshalb ist es für den Vergleich unterschiedlich großer Modelle das passende Maß.
Ein zusätzlicher Prädiktor kann die Residualstreuung nur verkleinern oder unverändert lassen, schlimmstenfalls erhält er das Gewicht 0 – deshalb steigt R² mechanisch. Das adjustierte R² verrechnet diesen Automatismus mit der Modellgröße und kann fallen. Aus einem hohen R² folgt weder inhaltliche Richtigkeit noch Kausalität: Auch überangepasste oder konfundierte Modelle erreichen hohe Werte.
Lösung:
Mittelwerte: x̄ = 3, ȳ = 60/5 = 12.
Abweichungen von x̄: −2, −1, 0, 1, 2; Abweichungen von ȳ: −6, −2, −2, 4, 6. Abweichungsprodukte: 12, 2, 0, 4, 12, Summe 30. Quadrierte x-Abweichungen: 4 + 1 + 0 + 1 + 4 = 10.
b₁ = 30/10 = 3; b₀ = 12 − 3 · 3 = 3. Gerade: ŷ = 3 + 3 · x.
Interpretation: Pro 1.000 € zusätzlicher Werbeausgaben steigt der vorhergesagte Umsatz im Mittel um 3.000 €. b₀ = 3 wäre der erwartete Umsatz ohne Werbung; x = 0 liegt knapp außerhalb des beobachteten Bereichs von 1 bis 5, die Deutung ist also nur mit Vorsicht zulässig.
Prognose für x = 3,5: ŷ = 3 + 3 · 3,5 = 13,5, also 13.500 € Umsatz.
Residuum Monat 3: ŷ = 3 + 3 · 3 = 12, beobachtet 10, also e = 10 − 12 = −2 (Tausend Euro).
Kausalität: Nein. Es sind Beobachtungsdaten – Drittvariablen wie Saison oder Preisaktionen könnten Werbeausgaben und Umsatz gemeinsam treiben. Ein Kausalschluss bräuchte ein geeignetes Design, etwa ein Experiment mit zufällig zugeteilten Werbebudgets.
Volle Punktzahl verlangt Rechnung plus Deutung mit Einheiten. Klassische Fehler: Zähler und Nenner vertauschen, durch die Summe der quadrierten y-Abweichungen teilen oder das Residuum als ŷ − y statt y − ŷ berechnen. Die Schwerpunkt-Probe 3 + 3 · 3 = 12 = ȳ bestätigt die Koeffizienten. Die Kausalfrage prüft die wichtigste Grenze der Methode: Die Steigung beschreibt den Zusammenhang in den Daten, nicht die Wirkung eines Eingriffs.
Lösung:
Der Dummy-Koeffizient ist der mittlere Unterschied zur Referenzkategorie bei Konstanthaltung der übrigen Prädiktoren: Master verdienen bei gleicher Berufserfahrung im Mittel 4.000 € pro Jahr mehr als Bachelor.
Setzt man D = 1 statt D = 0 ein, steigt die Vorhersage um genau 4 (Tausend Euro) – ein Niveauunterschied zwischen den Gruppen, kein Faktor und keine Steigung pro Jahr. Die Steigung pro Jahr Berufserfahrung bleibt für beide Gruppen 0,8, weil das Modell keinen Interaktionsterm enthält. Das Vorzeichen zeigt die Richtung: Positiv heißt mehr als die Referenzgruppe der Bachelorabsolventen.
Lösung:
Zutreffend sind die Aussagen zur Trichterform als Zeichen von Heteroskedastizität, zum Bogen als Zeichen verletzter Linearität und zur Rolle der Normalverteilung der Residuen.
Homoskedastizität heißt konstante Fehlervarianz über den Wertebereich – die Korrelation der Prädiktoren untereinander ist das Thema der Multikollinearität. Ausreißer werden zuerst geprüft: Liegt ein Datenfehler vor, wird er korrigiert; eine echte Beobachtung wird berichtet und ihr Einfluss etwa durch Rechnung mit und ohne den Punkt untersucht, statt sie stillschweigend zu entfernen.
Lösung:
Koeffizienten: Pro zusätzlichem Quadratmeter steigt die vorhergesagte Miete im Mittel um 9 €, bei gleicher Entfernung. Pro Kilometer mehr Entfernung sinkt sie im Mittel um 30 €, bei gleicher Fläche.
t-Werte: t = Koeffizient geteilt durch Standardfehler, also 9/1,5 = 6,0 und −30/12 = −2,5. Beide p-Werte liegen unter 0,05: Die Nullhypothese, der jeweilige Koeffizient sei in der Grundgesamtheit null (bei Konstanthaltung des anderen Prädiktors), wird verworfen – beide Prädiktoren tragen signifikant bei.
F-Test: Er prüft die Nullhypothese, dass alle Steigungskoeffizienten gleichzeitig null sind. Mit F = 60,4 und p < 0,001 wird sie verworfen – das Modell erklärt insgesamt signifikant Varianz.
R² = 0,72: 72 % der Mietvarianz werden durch Fläche und Entfernung statistisch erklärt; das adjustierte R² von 0,708 berücksichtigt die Zahl der Prädiktoren.
Prognose: Miete = 250 + 9 · 60 − 30 · 5 = 250 + 540 − 150 = 640 €.
Punktebringer ist die Ceteris-paribus-Formulierung – wer die Koeffizienten als einfache Zusammenhänge deutet, verliert den Kern der Aufgabe. Signifikanz heißt dabei nicht Präzision oder Relevanz: Der Entfernungseffekt ist mit Standardfehler 12 deutlich unschärfer geschätzt als der Flächeneffekt. Die Prognose für 60 m² und 5 km liegt mitten im beobachteten Bereich und ist zulässig – dieselbe Rechnung für ein 220-m²-Loft wäre Extrapolation, denn beobachtet wurden nur Flächen bis 95 m². Die Logik hinter p-Werten und Hypothesen liefert das Kapitel zu den Hypothesentests.
Lösung:
Die Arithmetik stimmt (30 + 5 · 30 = 180), aber die Anwendung nicht: Belastbar sind Vorhersagen nur im Bereich der beobachteten x-Werte von 2 bis 10 Stunden. Bei 30 Stunden ist die lineare Fortschreibung reine Extrapolation.
Außerhalb des Datenbereichs weiß das Modell nichts über die Form des Zusammenhangs – real flacht der Punktezuwachs bei sehr langen Lernzeiten ab, spätestens an der Punktobergrenze der Klausur. Das unmögliche Ergebnis von 180 Punkten ist hier das Warnsignal; oft liefert Extrapolation aber plausibel klingende und trotzdem ungedeckte Werte, was sie besonders tückisch macht.
Lösung:
Modell A: 1 − 0,36 · 29/26 = 1 − 0,36 · 1,1154 = 1 − 0,4015 = 0,598.
Modell B: 1 − 0,35 · 29/24 = 1 − 0,35 · 1,2083 = 1 − 0,4229 = 0,577.
Modell A ist vorzuziehen: Trotz des minimal höheren R² von Modell B liegt dessen adjustiertes R² niedriger. Der R²-Vergleich führt in die Irre, weil R² beim Hinzufügen von Prädiktoren nie sinken kann – die zwei zusätzlichen Prädiktoren heben R² mechanisch an, auch wenn sie kaum Erklärungswert haben. Das adjustierte R² verrechnet diesen Automatismus mit der Modellgröße und zeigt, dass der Zugewinn von 0,01 die zusätzliche Komplexität nicht rechtfertigt.
Die Zwischenschritte lohnen sich: Für Modell A ist der Korrekturfaktor 29/26, für Modell B schon 29/24 – je mehr Prädiktoren bei gleichem n, desto stärker die Bestrafung. Dahinter steht der Gedanke sparsamer Modelle: Wer Prädiktoren stapelt, passt sich dem Zufallsrauschen der Stichprobe an (Overfitting), und die Vorhersage bricht an neuen Daten ein. Bei knappen Differenzen entscheiden zusätzlich inhaltliche Begründung der Prädiktoren und die Bewährung an unabhängigen Daten.
Lösung:
Zulässig ist nur die Zusammenhangsaussage: Mehr Sportstunden gehen im Mittel mit höherem Wohlbefinden einher. Ein Kausalschluss scheitert an den Beobachtungsdaten – möglich sind umgekehrte Wirkrichtung (wer sich wohler fühlt, treibt eher Sport) und Drittvariablen wie Gesundheit oder freie Zeit.
Signifikanz beantwortet nur, ob der Zusammenhang plausibel über den Zufall hinausgeht, nicht warum er besteht. Kausal belastbar würde der Effekt durch ein randomisiertes Design, etwa zufällig zugeteilte Sportprogramme. Wertlos ist der Befund deshalb nicht: Vorhersage und Beschreibung sind legitime Zwecke, und der Zusammenhang kann weitere, kausal angelegte Studien begründen.
Übe diese Probeklausur interaktiv — kostenfrei in deinem Learnboost Account.
Probeklausur übernehmenAlles auf dieser Seite kannst du kostenfrei in deinen Learnboost Account übernehmen — und dort deutlich mehr daraus machen:
Bessere Noten beginnen bei Learnboost.
Erstellt von Learnboost-Redaktion. KI-gestützt erstelltes Originalwerk, redaktionell geprüft.
Inhalte melden: content@learnboost.tech
