科恩 Kappa 计算器
衡量两位评定者在校正偶然一致性后的一致程度。粘贴一致性矩阵,各行对应评定者 A 的类别,各列对应评定者 B 的类别。
学习手动计算方法输入数值
结果随输入自动更新。
如何输入数据
按表格形式输入数据,每行单独占一行。各行代表第一位评定者的类别,各列代表第二位评定者的类别,单元格填写对应组合的数量,行内用英文逗号分隔。行与列应按相同顺序列出类别,表格必须为行数与列数相同的方阵。
科恩 Kappa
请检查输入
输入有效数值即可查看结果。需要帮助时,请参阅字段提示或打开数据输入指南。
科恩 Kappa 衡量两位评定者将同一批对象划分类别时的一致程度,例如将作业评为及格或不及格。它不仅统计相同判断,还根据类别分布校正偶然情况下预期的一致性。结果通常在 0 至 1 之间,数值越高,表示超出预期偶然一致性的实际一致程度越高。
自己动手计算
两位评定者对 100 个对象进行分类,一致性表的两行分别为 40,10 和 5,45。
按照示例了解计算过程,再代入您自己的数值。
计算观察到的一致率
Pₒ = 对角线合计 ÷ 总数 = (40 + 45) ÷ 100 = 0.85。根据边际比例计算期望一致率
行合计 = 50, 50;列合计 = 45, 55。Pₑ = (50 × 45 + 50 × 55) ÷ 100² = 0.5。校正期望一致率的影响
κ = (Pₒ − Pₑ) ÷ (1 − Pₑ) = (0.85 − 0.5) ÷ 0.5 = 0.7。
行和列使用相同的类别顺序,让对角线单元格表示评价一致的情况。这里计算的是分类评价的非加权 Kappa。
在计算器中核对答案
应用场景
- 教师: 两位教师将同一批作文评为及格或不及格,在最终确定成绩前检查评分一致程度。
- 人力资源与招聘人员: 两位面试官分别将同一批候选人评为合适或不合适,再检查判断是否一致。
- 研究人员: 两位编码人员将同一批开放式调查答案归入不同主题,检查他们是否一致地使用类别标签。
如何解读 Kappa
科恩 Kappa 衡量两位评定者的一致程度超出偶然预期水平多少。Landis 和 Koch 提出的参考分级为:0.01–0.20 较低,0.21–0.40 一般,0.41–0.60 中等,0.61–0.80 较高,0.81–1.00 近乎完全一致。
何时使用
两个人分别查看同一批对象,并将每个对象归入某个类别,而您想了解两人的一致程度时,可以使用本计算器。类别应是及格或不及格、是或否、主题名称等分类标签,而不是连续数值。两人必须判断完全相同的对象,且本工具只适用于两位评定者。如果使用连续分数或数值评分,应选择更适合该类数据的一致性指标。
结果是什么意思?
结果是一个称为 Kappa 的数值,通常在 0 至 1 之间。1 表示完全一致,0 表示与根据类别频数计算的偶然预期一致性相同,负值表示一致性低于该预期。常用的 Landis–Koch 参考分级为:正值至 0.20 为较低一致性,0.21–0.40 为一般,0.41–0.60 为中等,0.61–0.80 为较高,0.81–1.00 为近乎完全一致。许多领域希望达到 0.61 及以上,但应结合具体场景判断。
常见错误
最常见的错误是两人没有评价同一批对象,因此开始前应准备一份共同的对象清单。保持表格行数与列数相同,并让横向和纵向的类别顺序一致。不要将科恩 Kappa 用于三位或更多评定者,也不要直接用于连续分数。样本过少时结果可能不稳定,应先收集足够多的评价对象。
如何使用此计算器
- 将结果整理成交叉表,统计两位评定者每种类别组合中的对象数量。
- 每行单独输入一行,行内数量用英文逗号分隔,并保持类别顺序一致。
- 检查表格为方阵,即行数与列数相同,并在两个方向上列出全部类别。
- 查看 Kappa 值并结合参考标准判断。0.61 及以上通常视为较高一致性,仍需结合应用场景。
计算示例
两位教师分别将同样的 50 份作业评为及格或不及格。20 份都评为及格,15 份都评为不及格;8 份第一位评为及格、第二位评为不及格;7 份则相反。第一行输入 20, 8,第二行输入 7, 15。虽然两人在 50 份作业中有 35 份判断相同,计算器得到的 Kappa 约为 0.39,按常用分级属于一般一致性。
常见问题
表格每个单元格应填写什么?
每个单元格填写一个数量:第一位评定者归入该行类别、同时第二位归入该列类别的对象数。行列类别相同的位置表示两人判断一致。
这些数据从哪里来?
让两位评定者分别对同一批对象分类,再将结果汇总为交叉表,统计每种类别组合的对象数量。
Kappa 多少算好?
数值越高,一致性通常越好。按常用的 Landis–Koch 分级,0.61 至 0.80 为较高一致性,0.81 至 1.00 为近乎完全一致。许多领域希望达到 0.61 及以上,但可接受水平仍取决于具体用途。
可以用于三位或更多评定者吗?
不可以。科恩 Kappa 只适用于两位评定者。有三位或更多评定者时,可考虑相关的 Fleiss Kappa 指标。
大部分判断都相同,为什么 Kappa 仍然很低?
Kappa 会校正根据类别频数预期的一致性。如果几乎所有对象都被归入同一个类别,预期一致性本来就很高。因此,即使原始一致率很高,Kappa 仍可能较低。