1 Ziel der einfachen linearen Regression
Eine einfache lineare Regressionsanalyse hat das Ziel eine abhängige Variable (y) mittels einer unabhängigen Variablen (x) zu erklären (z.B. soll das Körpergewicht durch die Körpergröße erklärt werden). Die einfache lineare Regression testet auf einen linearen Zusammenhang zwischen x und y. Für mehr als eine x-Variable wird die multiple lineare Regression verwendet.
Für SPSS gibt es diesen Artikel, für R diesen Artikel.
2 Voraussetzungen der einfachen linearen Regression
Die wichtigsten Voraussetzungen sind:
- linearer Zusammenhang zwischen x und y-Variable
- metrisch skalierte y-Variable
- normalverteilte Fehlerterme – Achtung beim analytischen Testen mit Kolmogorov-Smirnov und Shapiro-Wilk-Test, siehe Abschnitt 7
- Homoskedastizität – homogen streuende Varianzen des Fehlerterms
- keine Autokorrelation, im Falle von Daten mit fester, z.B. zeitlicher Reihenfolge – nur in Ausnahmefällen zutreffend und zu prüfen
3 Durchführung der einfachen linearen Regression in Excel
Beispiel: x-Variable: Körpergröße in cm, y-Variable: Körpergewicht in kg.
Über den Reiter „Daten“ > Datenanalyse > Regression
Hinweis: Sollte die Funktion „Datenanalyse“ nicht vorhanden sein, ist diese über „Datei“ > „Optionen“ > „Add-Ins“ > „Verwalten“ > „Los…“ zu aktivieren. Dieses Video zeigt dies kurz.
- Als Y-Eingabebereich muss man die Spalte auswählen, die die y-Variable (im Beispiel: Gewicht in kg) enthält. In meinem Fall ist das die Spalte D mit den Zeilen 1-39.
- Für den X-Eingabebereich ist entsprechend die Spalte mit der x-Variable (im Beispiel: Größe in cm) auszuwählen. In meiner Datei ist das die Spalte C mit den Zeilen 1-39.
- Solltet ihr einen beschrifteten Spaltenkopf haben, muss ein Haken bei „Beschriftungen“ gesetzt werden. Das dient Excel dazu zu erkennen, dass die erste Zeile nicht mit Daten gefüllt ist, sondern eine Bezeichnung beinhaltet.
- Das Konfidenzniveau sollte 95% sein. Das bedeutet, dass 95% aller auf Basis der Stichprobe berechneten Konfidenzintervalle den wahren Wert der Grundgesamtheit enthalten.
- Als Nächstes wählt ihr noch einen beliebigen Ausgabebereich. Dieser kann im selben Blatt sein, ein neues Tabellenblatt oder eine neue Arbeitsmappe sein.
- Schließlich empfehle ich noch das Ausgeben der Residuen, um die jene auf Normalverteilung zu prüfen, siehe das verlinkte Video in Abschnitt 6.
4 Interpretation der Ergebnisse der einfachen linearen Regression in Excel
Im Anschluss an die Durchführung solltet ihr vier Tabellen in Excel erhalten. Die Regressions-Statistik (4.1), die ANOVA-Tabelle (4.2), die Koeffizienten-Tabelle (4.3) und die Residuentabelle (verlinktes Video in Abschnitt 7).
4.1 Regressions-Statistik
- Die Güte der gerechneten Regression wird anhand des Bestimmtheitsmaßes R-Quadrat (R²) abgelesen. Das R² ist im Intervall zwischen 0 und 1 definiert. Es gibt an, wie viel Prozent der Varianz der abhängigen Variable erklärt werden. Ein höherer Wert ist hierbei besser. Im Beispiel: bei einem R² von z.B. 0,5206 werden 52,06% der Varianz der y-Variable erklärt.
- Für den Kontext: der multiple Korrelationskoeffizient gibt die Korrelation zwischen x- und y-Variable an und ist die Wurzel aus dem Bestimmtheitsmaß. Das korrigierte Bestimmtheitsmaß findet nur bei der multiplen linearen Regression Anwendung und kann bei der einfachen linearen Regression ignoriert werden.
4.2 ANOVA-Tabelle
- Die ANOVA-Tabelle dient dazu zu prüfen, ob Regressionsmodell einen statistisch signifikanten Erklärungsbeitrag leistet. Die Beschriftung von Excel ist hier etwas unglücklich, denn „F Krit“ ist der p-Wert des F-Tests.
- Der p-Wert ist des F-Tests ist 3,2E-07 bzw. 0,00000032.
- Der F-Test geht in seiner Nullhypothese davon aus, dass das formulierte und somit getestete Modell NICHT besser ist als ein Modell ohne x-Variablen.
- Der p-Wert ist sehr klein und liegt damit deutlich unter den typischen Verwerfungsgrenzen von 0,05 oder 0,01.
- Somit wird die Nullhypothese verworfen und es kann geschlossen werden: das Regressionsmodell leistet einen statistischen Erklärungsbeitrag. Ist dies nicht der Fall, also der p-Wert > 0,05, muss die Analyse an dieser Stelle abgebrochen werden.
4.3 Koeffiziententabelle
- Diese Tabelle zeigt alle Koeffizienten, die in die Analyse einbezogen wurden. Bei einer einfachen linearen Regression ist dies lediglich eine x-Variable (hier Größe [cm]).
- Der Schnittpunkt ist die Konstante bzw. der Achsenabschnitt. Er ist nicht weiter wichtig in der Analyse an sich.
- Der Regressionskoeffizient Größe sollte signifikant (p-Wert < 0,05) sein. Größe hat einen p-Wert von 3,2E-07, liegt also deutlich unter 0,05. Das Vorzeichen des Koeffizienten ist zudem positiv und hat demnach einen positiven Einfluss auf die y-Variable. Hier ist der Koeffizient 0,94. Das bedeutet, dass eine Zunahme der Größe um 1 Einheit (hier: cm) zu einer Erhöhung der abhängigen Variable (Gewicht) führt. Nämlich um 0,94 Einheiten (hier: kg)
5 Prognose mittels Regressionsgleichung
Auf Basis dieser Stichprobe und anhand des gerechneten Modells kann eine Regressionsgleichung aufgestellt werden. Sie kann zur Prognose verwendet werden. Hierbei ist eine beliebige Größe einzusetzen und das modellhafte Gewicht wird dabei prognostiziert. Setzt man nun eine Größe von z.B. 175 cm in die Formel ein:
Eine 175 cm große Person würde demnach 73,219 kg wiegen.
HINWEIS: Die Residuentabelle ist auf Normalverteilung zu prüfen. Dies zeige ich in einem gesonderten Video bzw. in Abschnitt 7 verlinkt.
6 Berichten der Ergebnisse
Beim Berichten der Regressionsergebnisse gibt es bei wenigen x-Variablen wie im Beispiel keine Notwendigkeit, eine Tabelle zu erstellen.
- Man berichtet den Regressionskoeffizienten und die Signifikanz der unabhängigen Variable (aus 4.3)
- sowie die Modellgüte, also Bestimmtheitsmaß R² (aus 4.1) und
- F-Test mitsamt Freiheitsgraden (df für Regression und Residuen aus 4.2).
7 Videotutorials
https://www.youtube.com/watch?v=CACrn0xI18Q
https://www.youtube.com/watch?v=eN5q9v-g7lo
