科恩 Kappa 计算器

衡量两位评定者在校正偶然一致性后的一致程度。粘贴一致性矩阵,各行对应评定者 A 的类别,各列对应评定者 B 的类别。

学习手动计算方法

输入数值

结果随输入自动更新。

如何输入数据

按表格形式输入数据,每行单独占一行。各行代表第一位评定者的类别,各列代表第二位评定者的类别,单元格填写对应组合的数量,行内用英文逗号分隔。行与列应按相同顺序列出类别,表格必须为行数与列数相同的方阵。

科恩 Kappa

请检查输入

输入有效数值即可查看结果。需要帮助时,请参阅字段提示或打开数据输入指南。

计算在您的浏览器中完成,数据不会发送给我们。

科恩 Kappa 衡量两位评定者将同一批对象划分类别时的一致程度,例如将作业评为及格或不及格。它不仅统计相同判断,还根据类别分布校正偶然情况下预期的一致性。结果通常在 0 至 1 之间,数值越高,表示超出预期偶然一致性的实际一致程度越高。

自己动手计算

两位评定者对 100 个对象进行分类,一致性表的两行分别为 40,10 和 5,45。

按照示例了解计算过程,再代入您自己的数值。

  1. 计算观察到的一致率

    Pₒ = 对角线合计 ÷ 总数 = (40 + 45) ÷ 100 = 0.85。
  2. 根据边际比例计算期望一致率

    行合计 = 50, 50;列合计 = 45, 55。Pₑ = (50 × 45 + 50 × 55) ÷ 100² = 0.5。
  3. 校正期望一致率的影响

    κ = (Pₒ − Pₑ) ÷ (1 − Pₑ) = (0.85 − 0.5) ÷ 0.5 = 0.7。

行和列使用相同的类别顺序,让对角线单元格表示评价一致的情况。这里计算的是分类评价的非加权 Kappa。

在计算器中核对答案

使用 PaperSurvey.io 的结果进行计算

收集两位评定者对各对象的分类结果,再将一致性计数用于此计算器。

PaperSurvey 的导出数据对话框,显示电子表格和统计软件格式。
查看原尺寸截图
PaperSurvey.io 界面示例导出配对评定数据进行一致性分析;应用内不直接显示科恩 Kappa。

应用场景

  • 教师: 两位教师将同一批作文评为及格或不及格,在最终确定成绩前检查评分一致程度。
  • 人力资源与招聘人员: 两位面试官分别将同一批候选人评为合适或不合适,再检查判断是否一致。
  • 研究人员: 两位编码人员将同一批开放式调查答案归入不同主题,检查他们是否一致地使用类别标签。

如何解读 Kappa

科恩 Kappa 衡量两位评定者的一致程度超出偶然预期水平多少。Landis 和 Koch 提出的参考分级为:0.01–0.20 较低,0.21–0.40 一般,0.41–0.60 中等,0.61–0.80 较高,0.81–1.00 近乎完全一致。

何时使用

两个人分别查看同一批对象,并将每个对象归入某个类别,而您想了解两人的一致程度时,可以使用本计算器。类别应是及格或不及格、是或否、主题名称等分类标签,而不是连续数值。两人必须判断完全相同的对象,且本工具只适用于两位评定者。如果使用连续分数或数值评分,应选择更适合该类数据的一致性指标。

结果是什么意思?

结果是一个称为 Kappa 的数值,通常在 0 至 1 之间。1 表示完全一致,0 表示与根据类别频数计算的偶然预期一致性相同,负值表示一致性低于该预期。常用的 Landis–Koch 参考分级为:正值至 0.20 为较低一致性,0.21–0.40 为一般,0.41–0.60 为中等,0.61–0.80 为较高,0.81–1.00 为近乎完全一致。许多领域希望达到 0.61 及以上,但应结合具体场景判断。

常见错误

最常见的错误是两人没有评价同一批对象,因此开始前应准备一份共同的对象清单。保持表格行数与列数相同,并让横向和纵向的类别顺序一致。不要将科恩 Kappa 用于三位或更多评定者,也不要直接用于连续分数。样本过少时结果可能不稳定,应先收集足够多的评价对象。

如何使用此计算器

  1. 将结果整理成交叉表,统计两位评定者每种类别组合中的对象数量。
  2. 每行单独输入一行,行内数量用英文逗号分隔,并保持类别顺序一致。
  3. 检查表格为方阵,即行数与列数相同,并在两个方向上列出全部类别。
  4. 查看 Kappa 值并结合参考标准判断。0.61 及以上通常视为较高一致性,仍需结合应用场景。

计算示例

两位教师分别将同样的 50 份作业评为及格或不及格。20 份都评为及格,15 份都评为不及格;8 份第一位评为及格、第二位评为不及格;7 份则相反。第一行输入 20, 8,第二行输入 7, 15。虽然两人在 50 份作业中有 35 份判断相同,计算器得到的 Kappa 约为 0.39,按常用分级属于一般一致性。

常见问题

表格每个单元格应填写什么?

每个单元格填写一个数量:第一位评定者归入该行类别、同时第二位归入该列类别的对象数。行列类别相同的位置表示两人判断一致。

这些数据从哪里来?

让两位评定者分别对同一批对象分类,再将结果汇总为交叉表,统计每种类别组合的对象数量。

Kappa 多少算好?

数值越高,一致性通常越好。按常用的 Landis–Koch 分级,0.61 至 0.80 为较高一致性,0.81 至 1.00 为近乎完全一致。许多领域希望达到 0.61 及以上,但可接受水平仍取决于具体用途。

可以用于三位或更多评定者吗?

不可以。科恩 Kappa 只适用于两位评定者。有三位或更多评定者时,可考虑相关的 Fleiss Kappa 指标。

大部分判断都相同,为什么 Kappa 仍然很低?

Kappa 会校正根据类别频数预期的一致性。如果几乎所有对象都被归入同一个类别,预期一致性本来就很高。因此,即使原始一致率很高,Kappa 仍可能较低。

将此计算器嵌入您的网站

免费使用。将这段代码粘贴到希望显示计算器的位置即可。


让 PaperSurvey.io 处理纸质问卷

开始使用

立即开始 14 天免费试用,无需信用卡。