STATISTIK-FORUM.de

[toni]

Hallo!

Es geht um den Umgang mit Multikolliniarität in meinem logistischen Regressionsmodell. Aus inhaltlichen Gründen habe ich entschieden, alle UVs trotz Multikolliniarität in mein Modell mitaufzunehmen, nicht zuletzt deshalb, weil bei der schrittweisen Regression, alle UVs unabhängige Effekte aufweisen.

Soweit ich das verstanden habe, beeinflusst die Multikolliniarität die Varianz der geschätzten Rgressionskoeffizienten. Das Problem ist dann die Instabilität der Schätzwerte in Bezug auf Einflussstärke und Einflussrichtung. (Die Varianz wird beeinflusst, diese verzerrt wiederum den Standardfehler und die geschätzten Regressionskoeffizienten)

In einer Studie begegnet man dem Problem mit der Schätzung durch robuste Standardfehler - ohne weitere Erläuterung.

Meine Frage: Ist das Schätzen mit robusten Standardfehlern eine angemessene Reaktion, um dem Einfluss der Multikolliniarität auf die Varianz der Regressionskoeffizienten in der logistischen Regression (ML-Schätzumg) zu begegnen bzw. einzudämmen?

Falls ja, bräuchte ich eine Quelle als Nachweis...

Viele Grüße,
toni

[aziz]

Es geht um den Umgang mit Multikolliniarität in meinem logistischen Regressionsmodell. Aus inhaltlichen Gründen habe ich entschieden, alle UVs trotz Multikolliniarität in mein Modell mitaufzunehmen, nicht zuletzt deshalb, weil bei der schrittweisen Regression, alle UVs unabhängige Effekte aufweisen.

Was meinst du mit unabhängigen Effekt?

Soweit ich das verstanden habe, beeinflusst die Multikolliniarität die Varianz der geschätzten Rgressionskoeffizienten. Das Problem ist dann die Instabilität der Schätzwerte in Bezug auf Einflussstärke und Einflussrichtung. (Die Varianz wird beeinflusst, diese verzerrt wiederum den Standardfehler und die geschätzten Regressionskoeffizienten)

Ja. Im Grunde besteht das Problem, dass die, für gewöhnlich verwendeten, Schätzverfahren bei vorliegender Kollinearität den Effekt den die (kollinearitätserzeugenden) Variablen auf die Zielvariable ausüben, nicht "richtig" zuordnen können.

Zum Umgang mit Kollinearität fallen mir spontan folgende Möglichkeiten ein. Du könntest aus den betroffenen Variable eine gemeinsame (gut interpretierbare) Variable machen. Zum Beispiel den Quotienten (falls die skalenniveaus dies zulassen) zweier Variablen bilden. Weiterhin fallen mir die Ridgeregression und die hauptkomponentenregression ein. Ob die aber einen Verallgemeinerung dieser verfahren für den fall einer logistischen regression existieren ist mit nicht bekannt. Als ersten Anhaltspunkt könntest du nachschauen bei:

Fahrmeir, L., Kneib, T und Lang, S. (2009), Regression, 2. Auflage, Springer, Heidelberg.

Gruß
Aziz