ICC: Berechnung der Reliabiltität wenn Rater verschieden

ICC: Berechnung der Reliabiltität wenn Rater verschieden

Beitragvon katjagoesstatistik » Mo 4. Apr 2016, 23:26

Hallo Leute,

ich habe folgenden Fall: Je 150 Studenten haben eine Art Leistungskontrolle geschrieben und die Studenten haben sich untereinander bewertet. Konkret heißt das, dass jede Leistungskontrolle eines Studenten von 5 anderen aus der Gruppe bewertet wurde (Randomisierte Zuordnung).
--> Zu jeder Leistungskontrolle (150 Stück) liegen also aus der Peer Group 5 Ratings vor. Somit hat jeder Student 5 andere Studenten (bzw. deren Leistungskontrollen) bewertet.

Jetzt Frage ich mich ob man errechnen kann, inwieweit die Rater (also die Studenten) untereinander übereinstimmen.
Mein Problem ist, dass es zwar 150 Rater gibt, aber nicht jeder Rater jeden Fall bewertet hat, sondern nur 5. Zu jedem Fall liegen zwar 5 Ratings vor, aber es waren aus der Peer Group ja immer andere Leute.

Ich hoffe ich habe mein Anliegfen klar fomuliert :D

Nun würde ich also gerne wissen, wie man die Reliabilität der Daten überprüfen kann?
Kann ich mit dem ICC (und wenn ja mit welchem??) die Übereinstimmung von Ratern errechnen? Denn jeder Rater hat 5 andere Studenten bewertet, aber in Summe sind es ja 150 Studenten. Also für einen Fall liegen 5 Ratings vor.
Macht es da überhaupt Sinn die Reliabilität zu messen?
Ich hatte mich schon etwas eingelesen und bin auf den ICC gestoßen. Weiß aber nicht, ob a) das wirklich das richtige Maß ist, b) welchen ich verwenden kann und c) wie die Daten für SPSS vorbereitet sein müssen.

Ich hoffe es kann jemand helfen :)
katjagoesstatistik
Grünschnabel
Grünschnabel
 
Beiträge: 6
Registriert: Mo 4. Apr 2016, 22:56
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: ICC: Berechnung der Reliabiltität wenn Rater verschieden

Beitragvon strukturmarionette » Di 5. Apr 2016, 11:20

Hi,

Was wurde denn überhaupt durch Punkte (mittels drei latenten Variablen, Konstrukten) 'bewertet', 'geratet', 'gefeedbacked', 'experimentiert' 'leistungskontrolliert'?

Nun würde ich also gerne wissen, wie man die Reliabilität der Daten überprüfen kann?

Streuung: Was genau meinst du damit? Inwieweit Feedback von Studenten und Feedback von Experten zueinander abweicht,

Streuuung (SD) ist bei Reliabilitätsschätzungen von Items nach der (korrigierten) Trennschärfe und der Itemschwierigkeit, der dritte relevante statistische Sachverhalt.
Reliabilität bezieht sich nicht auf Daten.

Gruß
S.
strukturmarionette
Schlaflos in Seattle
Schlaflos in Seattle
 
Beiträge: 4313
Registriert: Fr 17. Jun 2011, 22:15
Danke gegeben: 32
Danke bekommen: 582 mal in 579 Posts

Re: ICC: Berechnung der Reliabiltität wenn Rater verschieden

Beitragvon katjagoesstatistik » Di 5. Apr 2016, 11:41

Hi,

also die Studenten haben sich untereinander Feedback gegeben. Und zwar sollten sie die Leistung untereinander mithilfe 3er verschiedener Konstrukte einschätzen (bspw. Struktur der Argumentation, Zielerreichung, Fachwissen). In Summe gab es 18 Items. Gemessen wurde jeweils über eine 7er Likert-Skala.

Parallel haben 3 Experten alle Ausarbeitungen der Studenten mit dem gleichen Feedbackbogen (gleiche Konstrukte) eingeschätzt. Also jede Ausarbeitung eines Studenten wurde nochmals von 3 Experten unabhängig voneinander eingeschätzt.

Nun will ich unter anderem überprüfen inwieweit die Experten untereinander übereinstimmen und inwieweit die Studenten untereinander übereinstimmen.

>> Die Übereinstimmung der Experten untereinander habe ich schon hinbekommen. Das fande ich nicht ganz so schwierig, da jeder der 3 Experten jeden Fall (also jeden Studenten) eingeschätzt hat.

>> Bei der Überprüfung der Übereinstimmung der Studenten untereinander hänge ich. Denn nicht jeder Student hat jeden Fall eingeschätzt. Nämlich jeder Student hat nur 5 andere Studenten eingeschätzt.
Wichtig zu wissen ist noch, dass die Zuteilung, wer wen bewertet, zufällig war.
katjagoesstatistik
Grünschnabel
Grünschnabel
 
Beiträge: 6
Registriert: Mo 4. Apr 2016, 22:56
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post


Zurück zu Reliabilitätsanalyse

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder und 0 Gäste

cron