OLS-Schätzung der Geraden y = a + b·x für eine Punktwolke. Bestimmtheitsmaß R², Residuen, Vorhersage, klassische Annahmen — Klausur-Pflicht.
Die lineare Regression schätzt eine Gerade y = a + b·x, die die Punktwolke der Daten am besten beschreibt — gemessen am minimalen Quadrat-Fehler. Wichtigstes Werkzeug der Inferenz-Statistik in BWL, VWL, Psychologie, Data Science.
Was du in der Klausur können musst:
In Klausuren oft gefragt: Berechne die Regressionsgerade und Wie viel Prozent der Varianz erklärt die Regression? Pflicht.
Bei einer Punktwolke suchen wir die Gerade
die die Punkte am besten beschreibt. "Am besten" heißt: Summe der quadrierten Abstände in y-Richtung (= Residuen) wird minimal.
Method of Least Squares (Gauß): minimiere
Aus der Minimierungs-Bedingung folgen direkt:
Beobachtung: die Regressionsgerade geht immer durch den Schwerpunkt .
und das Bestimmtheitsmaß:
bei einfacher linearer Regression. Heißt: → perfekte Anpassung, → keine erklärte Varianz.
Daten: (1, 2), (2, 3), (3, 5), (4, 4), (5, 6).
Schritt 1: Mittelwerte , .
Schritt 2: Tabelle ausfüllen:
| x | y | x−x̄ | y−ȳ | (x−x̄)(y−ȳ) | (x−x̄)² |
|---|---|---|---|---|---|
| 1 | 2 | -2 | -2 | 4 | 4 |
| 2 | 3 | -1 | -1 | 1 | 1 |
| 3 | 5 | 0 | 1 | 0 | 0 |
| 4 | 4 | 1 | 0 | 0 | 1 |
| 5 | 6 | 2 | 2 | 4 | 4 |
| Σ = | 9 | 10 |
Schritt 3: Steigung .
Schritt 4: Intercept .
Schritt 5: Regression: .
Vorhersage für x = 6: .
Für jede Beobachtung ist das Residuum:
Wenn die Regression gut passt, sind Residuen klein und um 0 verteilt. Bei systematischen Mustern (z.B. U-Form) ist das Modell nicht linear → komplexere Modelle nötig.
mit:
Interpretation: → die Regression erklärt 75 % der Varianz von y. Die restlichen 25 % gehen als unerklärt in die Residuen.
Für korrekte Inferenz (Standardfehler, Hypothesentests) müssen 4 Annahmen erfüllt sein:
In Klausur-Aufgaben werden oft nur Punkte 1 und 4 erwähnt.
Vorhersage: für ein neues x — Punktschätzung mit Konfidenzintervall.
Erklärung: als Effekt — "wenn x um 1 Einheit steigt, steigt y im Durchschnitt um ".
Vorsicht: Korrelation ≠ Kausalität gilt auch hier. Ein Regressions-Koeffizient bedeutet Assoziation, nicht zwingend Wirkung.
- Steigung b zuerst (mit Cov(X,Y) / Var(X)), dann Intercept a = ȳ − b·x̄.
- Gerade geht durch (x̄, ȳ) — wertvoller Plausibilitäts-Check.
- R² = r² bei einfacher Regression.
- Residuen-Plot in der Klausur erwähnen wenn nach Modell-Güte gefragt.
- Vorhersage außerhalb des Datenbereichs ist riskant (Extrapolation).
Cov(X,Y) und Var(X) verwechseln. Die Steigungs-Formel hat Cov im Zähler und Var(X) (NICHT Var(Y)) im Nenner. Bei Verwechslung wird die Skala falsch.
Intercept-Formel vergessen. — die Reihenfolge ist wichtig. Erst b berechnen, dann a aus dem Schwerpunkt.
R² mit r verwechseln. ist immer ≥ 0 (kann nicht negativ sein bei OLS). kann negativ sein (Vorzeichen der Steigung).
Alle Tabs der Lerneinheit (Erklärung · Interaktiv verstehen · Praxis-Übung · Klausur-Quiz) als durchgehender Text. Ideal zum Wiederholen vor der Klausur — und für Suchmaschinen wie Google, Bing und KI-Suche (ChatGPT, Perplexity).
Wichtigstes Werkzeug der Inferenz- in BWL, VWL, Psychologie, Data Science.
Die wichtigste stetige Verteilung der Statistik. Glockenkurve, Standardisierung, Z-Score, 68-95-99,7-Regel und Tabellen-Lookup für Klausur-Aufgaben.
Die zwei wichtigsten diskreten Verteilungen. Binomial zählt Erfolge bei n Versuchen, Poisson zählt seltene Ereignisse pro Intervall — mit Approximations-Tricks zwischen Binomial, Poisson und Normal.
Bereich um den Stichprobenmittelwert, in dem der wahre Populationsmittelwert mit (1−α) Sicherheit liegt. Standard-Quantile, Wurzel-Gesetz, Stichprobenplanung — Klausur-Pflicht.
Was du in der Klausur können musst:
In Klausuren oft gefragt: Berechne die Regressionsgerade und Wie viel Prozent der Varianz erklärt die Regression? Pflicht.
Bei einer Punktwolke (x₁, y₁), ..., (x_n, y_n) suchen wir die Gerade
ŷ = a + b · x
die die Punkte am besten beschreibt. "Am besten" heißt: Summe der quadrierten Abstände in y-Richtung (= Residuen) wird minimal.
Method of Least Squares (Gauß): minimiere
Σ (y_i - ŷ_i)²
Aus der Minimierungs-Bedingung folgen direkt:
b = (Σ (x_i - x̄)(y_i - ȳ))/(Σ (x_i - x̄)²) = Cov(X, Y)/Var(X)
a = ȳ - b · x̄
Beobachtung: die Regressionsgerade geht immer durch den Schwerpunkt (x̄, ȳ).
b = r · (σ_Y)/(σ_X)
und das Bestimmtheitsmaß:
R² = r²
bei einfacher linearer Regression. Heißt: R² = 1 → perfekte Anpassung, R² = 0 → keine erklärte Varianz.
Daten: (1, 2), (2, 3), (3, 5), (4, 4), (5, 6).
Schritt 1: Mittelwerte x̄ = 3, ȳ = 4.
Schritt 2: Tabelle ausfüllen:
| x | y | x−x̄ | y−ȳ | (x−x̄)(y−ȳ) | (x−x̄)² |
|---|---|---|---|---|---|
| 1 | 2 | -2 | -2 | 4 | 4 |
| 2 | 3 | -1 | -1 | 1 | 1 |
| 3 | 5 | 0 | 1 | 0 | 0 |
| 4 | 4 | 1 | 0 | 0 | 1 |
| 5 | 6 | 2 | 2 | 4 | 4 |
| Σ = | 9 | 10 |
Schritt 3: Steigung b = 9 / 10 = 0,9.
Schritt 4: Intercept a = 4 - 0,9 · 3 = 1,3.
Schritt 5: Regression: ŷ = 1,3 + 0,9 · x.
Vorhersage für x = 6: ŷ = 1,3 + 0,9 · 6 = 6,7.
Für jede Beobachtung i ist das Residuum:
ε_i = y_i - ŷ_i = y_i - (a + b · x_i)
Wenn die Regression gut passt, sind Residuen klein und um 0 verteilt. Bei systematischen Mustern (z.B. U-Form) ist das Modell nicht linear → komplexere Modelle nötig.
R² = 1 - SSR/SST = 1 - (Σ (y_i - ŷ_i)²)/(Σ (y_i - ȳ)²)
mit:
Interpretation: R² = 0,75 → die Regression erklärt 75 % der Varianz von y. Die restlichen 25 % gehen als unerklärt in die Residuen.
Für korrekte Inferenz (Standardfehler, Hypothesentests) müssen 4 Annahmen erfüllt sein:
In Klausur-Aufgaben werden oft nur Punkte 1 und 4 erwähnt.
Vorhersage:
ŷfür ein neues x — Punktschätzung mit Konfidenzintervall.Erklärung:
bals Effekt — "wenn x um 1 Einheit steigt, steigt y im Durchschnitt umb".
Vorsicht: Korrelation ≠ Kausalität gilt auch hier. Ein Regressions-Koeffizient bedeutet Assoziation, nicht zwingend Wirkung.
- Steigung b zuerst (mit Cov(X,Y) / Var(X)), dann Intercept a = ȳ − b·x̄.
- Gerade geht durch (x̄, ȳ) — wertvoller Plausibilitäts-Check.
- R² = r² bei einfacher Regression.
- Residuen-Plot in der Klausur erwähnen wenn nach Modell-Güte gefragt.
- Vorhersage außerhalb des Datenbereichs ist riskant (Extrapolation).
Cov(X,Y) und Var(X) verwechseln. Die Steigungs-Formel hat Cov im Zähler und Var(X) (NICHT Var(Y)) im Nenner. Bei Verwechslung wird die Skala falsch.
Intercept-Formel vergessen. a = ȳ - b · x̄ — die Reihenfolge ist wichtig. Erst b berechnen, dann a aus dem Schwerpunkt.
R² mit r verwechseln. R² ist immer ≥ 0 (kann nicht negativ sein bei OLS). r kann negativ sein (Vorzeichen der Steigung).
Verschiebe die Punkte — die OLS-Gerade passt sich live an. Toggle die Residuen ein, um die Vorhersage-Fehler als vertikale Striche zu sehen. Beobachte: ein einzelner Outlier kann die Gerade kippen — visualisiert direkt warum man Residuen-Plots in der Praxis macht.
Interaktive Visualisierung
Lineare Regression mit Residuen-Anzeige und Bestimmtheitsmaß R^2.
Klausur-Tipp: beachte dass die Gerade IMMER durch den Schwerpunkt (x̄, ȳ) geht — wenn du ihn dir markierst und an einer Stelle siehst dass die Linie nicht durchgeht, hast du dich verrechnet.
Klausur-typische Aufgaben: a und b berechnen, R² interpretieren, Vorhersage für neuen x-Wert, Residuen identifizieren.
Klausurfragen mit Lösungen (6)
Antwort: 0.9 (Toleranz ±0.05)
Erklärung: `x̄`=3, `ȳ`=4. Σ(x-x̄)(y-ȳ)=9. Σ(x-x̄)²=10. b = 9/10 = 0,9. Klausur-Standard: erst Tabelle, dann Division.
Typ: Zahlen-Eingabe
Antwort: 1.3 (Toleranz ±0.05)
Erklärung: a = ȳ - b·x̄ = 4 - 0,9·3 = 4 - 2,7 = 1,3. Regression: ŷ = 1,3 + 0,9·x. Plausibilitäts-Check: bei x=3 ist ŷ = 1,3 + 2,7 = 4 = ȳ ✓.
Typ: Zahlen-Eingabe
Antwort: 7.6 (Toleranz ±0.05)
Erklärung: ŷ(7) = 1,3 + 0,9·7 = 1,3 + 6,3 = 7,6. ACHTUNG: Extrapolation außerhalb der Daten (1-5) ist riskant. Die Regression ist nur im beobachteten Bereich verlässlich.
Typ: Zahlen-Eingabe
Antwort: Wahr
Erklärung: Korrekt. Aus der Intercept-Formel a = ȳ - b·x̄ folgt direkt: bei x = x̄ ist ŷ = a + b·x̄ = (ȳ - b·x̄) + b·x̄ = ȳ. Klausur-Plausibilitäts-Check.
Typ: Wahr/Falsch
Zuordnungen:
Erklärung: Die drei Varianz-Komponenten: SST = SSR + SSE. R² ist die normalisierte Erklärungs-Quote. Klausur-Pflicht für Modell-Güte-Diskussion.
Typ: Zuordnung
Antwort: 0.49 (Toleranz ±0.005)
Erklärung: Bei einfacher linearer Regression gilt R² = r² = 0,7² = 0,49. Heißt: 49 % der Varianz von y wird durch x erklärt. Faustregel-Erinnerung: r=0,7 wirkt 'gut', erklärt aber nur knapp die Hälfte.
Typ: Zahlen-Eingabe
Klausurfragen mit Lösungen (6)
Richtige Reihenfolge:
Erklärung: Standard-Workflow: Mittelwerte → Abweichungen → b berechnen → a aus Schwerpunkt → fertige Gleichung. Reihenfolge zwingend, da a von b abhängt.
Typ: Reihenfolge
Antwort: Sehr schwache Anpassung — nur 4 % der Varianz erklärt
Erklärung: R² = 0,04 = 4 % der Varianz erklärt. Sehr schwacher Zusammenhang. R² ist immer nicht-negativ. Klausur-Klassiker zur Modell-Güte-Bewertung.
Richtige Antworten: Minimiert Σ(yi - ŷi)²; Geht durch (x̄, ȳ); R² ist immer ≥ 0; R² = r² bei einfacher Regression; Annahme: Linearität, Unabhängigkeit, Homoskedastizität, Normalität der Residuen
Erklärung: Korrekt: minimiert Quadrat-Fehler, durch Schwerpunkt, R² ≥ 0, R²=r², 4 Annahmen. Falsch: b kann positiv ODER negativ sein — abhängig vom Vorzeichen von Cov(X,Y).
Typ: Multi-Select
Antwort: 1.1 (Toleranz ±0.05)
Erklärung: `x̄`=3, `ȳ`=5,2. (x-x̄)·(y-ȳ): -2·(-2,2)=4,4; -1·(-0,2)=0,2; 0·(-1,2)=0; 1·0,8=0,8; 2·2,8=5,6. Σ=11. (x-x̄)²: 4+1+0+1+4=10. b = 11/10 = 1,1.
Typ: Zahlen-Eingabe
Antwort: Wahr
Erklärung: Korrekt. Aus der Minimierungs-Bedingung folgt: Σ(yi - ŷi) = 0. Positive und negative Residuen heben sich exakt auf. Deshalb wird das QUADRAT der Residuen minimiert — sonst würde das Vorzeichen tricks erlauben.
Typ: Wahr/Falsch
Lösungen pro Lücke:
Erklärung: b = r · (σ_Y / σ_X) verknüpft Korrelation mit Regression — die Steigung skaliert mit dem Verhältnis der Streuungen. R² = r² bei einfacher Regression (mit nur einer x-Variable).
Typ: Lückentext