因為實作評量愈來愈受到重視,其信效度議題也益顯得重要。底下幾個小題是關於
評分者間信度係數計算的問題,請根據題意回答。
如果某小學舉辦美術寫生比賽,有10 名學生參賽,該校邀請了2 位知名的繪畫
專家擔任評審,評定的成績結果如下表。根據這樣的資料要用什麼樣的方法來計
算評分者間的信度係數?(5 分)
得 分
學生
第一位評審
第二位評審
A
85
82
B
57
52
C
78
88
D
64
78
E
92
85
F
45
68
G
55
47
H
82
76
I
30
20
J
74
55
請計算上表資料的評分者間信度係數。(7 分)
如果為了增加公平性,該校再邀請另一位專家來參與評審,結果就變成了每一位
參賽者的作品都由三位專家評過,此時可用什麼樣的方法來計算評分者間的信度
係數呢?(5 分)
如果說參加寫生比賽的學生有50 人,為了考慮專家審查的費用,因此只用兩位專
家;又考慮到目前實作評量評分方式的趨勢以及公平性的問題,因此該校請評審用
1-6 分的6 點計分的方式來進行評審,得到下列的結果,此時可用什麼樣的方法來
計算評分者間的信度係數呢?(4 分)用這個方法所得到的結果為何?(4 分)
評分者2 所評的分數
分數
1