Hierarchische multiple Regression: Methodenwahl

Alle Verfahren der Regressionanalyse.

Hierarchische multiple Regression: Methodenwahl

Beitragvon Viki » Di 19. Feb 2019, 23:09

Hallo zusammen,

ich verzweifle gerade an einer multiplen Regression mit drei Interaktionstermen und habe in ein paar Tagen Abgabe, daher hoffe ich sehr auf schnelle Hilfe.

Zur Übersicht der Prädiktoren:
1) Selbstwirksamkeit 2) Kompetenzbedürfnisbefriedigung 3) Kompetenzbedürfnisfrustration 4) Geschlecht 5) Interaktion aus 1 und Geschlecht 6) Interaktion aus 2 und Geschlecht 7)Interaktion aus 3 und Geschlecht

Die Analyse soll laut meinem Betreuer mit der Rückwärts-Methode erfolgen und auch hierarchisch sein, ich kann davon aber auch begründet abweichen.
Die Vorhersage von 1, 2 und 3 ist schon häufig gefunden, sodass ich diese Variablen in Block 1 in SPSS eingebe. Die "neuen" Variablen, die bei meiner Arbeit eigentlich von Interesse sind, kommen in Block 2.
Wähle ich für beide Blocks die Rückwärts-Methode aus, werden im Modell 1 beide Blocks zusammen betrachtet. Warum wird in diesem Fall die Hierarchie umgangen? Oder scheint das nur so? Ist es das Gleiche, als wenn ich alles in einem Block mit der Rückwärts-Methode berechne?

Eine optionale Frage noch:
Jetzt habe ich aber so viel Kritik zu stepwise-methods (also auch der backward method) gelesen, dass ich überlege, davon begründet abzuweichen und die Einschlussmethode zu wählen.
Wenn ich die beiden Blocks mit der Einschlussmethode rechne, kommt im 2. Modell (mit den interessierenden Interaktionsvariablen) natürlich ein großes Modell mit allen 7 Prädiktoren raus, was meines Verständnisses nach nicht gut ist, weil es zur Überschätzung des Modellfits führt. Habe ich tendenziell zu viele Prädiktoren im Modell, sodass die Einschlussmethode nicht in Frage kommt?

Vielen lieben Dank schonmal!! :)

Beste Grüße

Viki
Viki
Grünschnabel
Grünschnabel
 
Beiträge: 5
Registriert: Di 19. Feb 2019, 22:30
Danke gegeben: 2
Danke bekommen: 0 mal in 0 Post

Re: Hierarchische multiple Regression: Methodenwahl

Beitragvon strukturmarionette » Di 19. Feb 2019, 23:43

Hi,

- N?

Gruß
S.
strukturmarionette
Schlaflos in Seattle
Schlaflos in Seattle
 
Beiträge: 4312
Registriert: Fr 17. Jun 2011, 22:15
Danke gegeben: 32
Danke bekommen: 582 mal in 579 Posts

Re: Hierarchische multiple Regression: Methodenwahl

Beitragvon Viki » Mi 20. Feb 2019, 00:14

74
Viki
Grünschnabel
Grünschnabel
 
Beiträge: 5
Registriert: Di 19. Feb 2019, 22:30
Danke gegeben: 2
Danke bekommen: 0 mal in 0 Post

Re: Hierarchische multiple Regression: Methodenwahl

Beitragvon PonderStibbons » Mi 20. Feb 2019, 10:04

ich verzweifle gerade

Ach so...? https://tinyurl.com/yamhs8gq
Wähle ich für beide Blocks die Rückwärts-Methode aus, werden im Modell 1 beide Blocks zusammen betrachtet.

Wie soll es denn auch anders gehen? Die schrittweise Variablenselektion
zieht alle Variablen heran.

Wenn ich die beiden Blocks mit der Einschlussmethode rechne, kommt im 2. Modell (mit den interessierenden Interaktionsvariablen) natürlich ein großes Modell mit allen 7 Prädiktoren raus, was meines Verständnisses nach nicht gut ist, weil es zur Überschätzung des Modellfits führt. Habe ich tendenziell zu viele Prädiktoren im Modell, sodass die Einschlussmethode nicht in Frage kommt?

Anzunehmen, dass durch die stepwise Variablenselektion kein overfitting
stattfindet, weil am Ende weniger Variablen im Modell sind, wäre glatter
Selbstbetrug. stepwise Methoden sind der Königsweg zu überangepassten,
nicht auf andere Stichproben generalisierbare Modelle. Der Algorithmus
probiert stupide den Datensatz durch, bis er das relativ vorhersagefähigste
Modell für die vorliegende Stichprobe findet. Nur weil dann eventuell nur 3
oder 4 Prädiktoren übrig bleiben, heißt das nicht, dass die anderen nicht
implizit im Modell drinstecken als "durchprobiert und verworfen". Man sieht
sie nur nicht mehr, und darin liegt die Irreführung.

Nebenbei, viel kannst Du sowieso nicht herausnehmen, falls z.B. eine
Interaktion "statistisch signifikant" wird. Dann müssen beide beteiligten
Effekte 1. Ordnung auch drin sein.

Strukturmarionette hat nach der wichtigsten Angabe bereits gefragt,
n=74 für 7 Prädiktoren könnte machbar sein, schau zunächst mal auf die
Multukollinearitätsdiagnostik.

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11228
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 49
Danke bekommen: 2467 mal in 2451 Posts

folgende User möchten sich bei PonderStibbons bedanken:
Viki

Re: Hierarchische multiple Regression: Methodenwahl

Beitragvon Viki » Mi 20. Feb 2019, 12:47

erstmal vielen Dank für deine schnelle Antwort!


Wie soll es denn auch anders gehen? Die schrittweise Variablenselektion
zieht alle Variablen heran.


Ist es dann komplett sinnlos für rückwärts in zwei Blöcken einzugeben also macht es überhaupt keinen Unterschied? Oder kommt es einfach letztendlich auf das gleiche raus..? Ich dachte die Aufnahme über zwei Blöcke wäre wenigstens die sauberere Lösung..


Anzunehmen, dass durch die stepwise Variablenselektion kein overfitting
stattfindet, weil am Ende weniger Variablen im Modell sind, wäre glatter
Selbstbetrug. stepwise Methoden sind der Königsweg zu überangepassten,
nicht auf andere Stichproben generalisierbare Modelle. Der Algorithmus
probiert stupide den Datensatz durch, bis er das relativ vorhersagefähigste
Modell für die vorliegende Stichprobe findet. Nur weil dann eventuell nur 3
oder 4 Prädiktoren übrig bleiben, heißt das nicht, dass die anderen nicht
implizit im Modell drinstecken als "durchprobiert und verworfen". Man sieht
sie nur nicht mehr, und darin liegt die Irreführung.


Dann kann ich scheinbar viel in meiner Diskussion an der Methode kritisieren


Nebenbei, viel kannst Du sowieso nicht herausnehmen, falls z.B. eine
Interaktion "statistisch signifikant" wird. Dann müssen beide beteiligten
Effekte 1. Ordnung auch drin sein.


Es werden 2 der 3 Interaktionen signifikant und sind im reduziertesten Modell mit einem der Moderatoren enthalten. Das geht also nicht und ich kann bei 2 signifikanten Interaktionen nur ein Modell mit in meinem Fall 5 Prädiktoren auswählen?


Strukturmarionette hat nach der wichtigsten Angabe bereits gefragt,
n=74 für 7 Prdiktoren könnte machbar sein, schau zunächst mal auf die
Multukollinearitätsdiagnostik.


Wurde geprüft und gibt keine Hinweise darauf.

Beste Grüße
Viki
Grünschnabel
Grünschnabel
 
Beiträge: 5
Registriert: Di 19. Feb 2019, 22:30
Danke gegeben: 2
Danke bekommen: 0 mal in 0 Post

Re: Hierarchische multiple Regression: Methodenwahl

Beitragvon PonderStibbons » Mi 20. Feb 2019, 14:26

Dann kann ich scheinbar viel in meiner Diskussion an der Methode kritisieren

Nicht nur scheinbar. Und tatsächlich solltest Du das Verfahren von vornherein bleiben lassen.
Außerhalb von Data Mining ist das Unfug.

"Stepwise regression is one of these things, like outlier detection and pie charts, which appear to be popular among non-statisticans but are considered by statisticians to be a bit of a joke. "
(Andrew Gelman, "Why we hate stepwise Regression")

Eine Übersicht über die Probleme: https://www.stata.com/support/faqs/stat ... -problems/

Es werden 2 der 3 Interaktionen signifikant und sind im reduziertesten Modell mit einem der Moderatoren enthalten. Das geht also nicht und ich kann bei 2 signifikanten Interaktionen nur ein Modell mit in meinem Fall 5 Prädiktoren auswählen?

Eine Interaktion ist ohne die Haupteffekte doch gar nicht interpretierbar.

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11228
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 49
Danke bekommen: 2467 mal in 2451 Posts

folgende User möchten sich bei PonderStibbons bedanken:
Viki


Zurück zu Regressionanalyse

Wer ist online?

Mitglieder in diesem Forum: bele und 5 Gäste