公平性（アルゴリズムバイアス、データの偏り、センシティブ属性と代理変数、公平性の定義と対処技術）

この節の練習問題（4問）

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

1. 問1
   AIの公平性の問題が生じる原因に関する記述として、最も適切なものを選びなさい。
   1. 1モデルは数式に基づいて判断するため、学習データの偏りとは無関係に判断は中立になる。公平性の問題が生じる原因は主に推論時の計算誤差や乱数のばらつきであり、性別や人種などのセンシティブ属性を入力から除き、乱数の種を固定すれば差別的な判断は再現されなくなる
   2. 2学習データが特定の集団に偏っている（サンプリングバイアス）場合でも、モデルは統計的な最適化によって偏りを自動的に打ち消すため、不利な判断は生じにくい。公平性の問題が起こるのは、性別や人種などのセンシティブ属性を入力に直接含めた場合に限られ、これらを除けば差別は発生しない
   3. 3公平性の問題は、学習データの偏りではなく、モデルの過学習によって生じる。訓練データへの過剰な適合を正則化やドロップアウトで抑えれば、性別や人種などのセンシティブ属性が入力に含まれていても、郵便番号のような代理変数を含めて特定の属性に不利な判断は起こらなくなる
   4. 4学習データが特定の集団に偏っている（サンプリングバイアス）と、モデルはその偏りを学習して特定の属性の人に不利な判断をする。性別や人種などのセンシティブ属性を入力から除いても、郵便番号のようにそれと相関する代理変数を通じて差別が再現されることがある
   答えと解説

   正解: 4

   AIの判断の偏り（アルゴリズムバイアス）は、過去の人間の判断や社会の偏りを含むデータから学習することで生じます。過去の採用データを学習した採用AIが女性を不利に評価した事例や、再犯予測システムの人種による偏りが指摘された事例が知られています。センシティブ属性を除いても、それと強く相関する代理変数（居住地域、氏名、学歴など）から間接的に差別が起きるため、公平性の定義を決めて検証・是正する取り組みが必要です。

2. 問2
   AIの公平性に対処するうえで留意すべき点として、最も適切なものを選びなさい。
   1. 1公平性には「集団ごとの合格率を等しくする」「集団ごとの誤検出率を等しくする」など複数の定義があり、すべてを同時に満たすことは一般に不可能なため、用途に応じてどの公平性を重視するかを決め、検証と説明ができる体制を整える必要がある
   2. 2公平性には「集団ごとの合格率を等しくする」という唯一の数学的定義があり、この基準を満たしていれば他の観点の不公平は生じないため、開発時に一度この指標を確認すれば運用中の検証や利害関係者への説明は省略できる
   3. 3公平性は学習データから性別や人種などの属性の列を削除すれば技術的に達成できる問題であり、属性を取り除いたモデルは他の特徴量から属性を推定することもないため、用途ごとにどの公平性を重視するかを人間が判断する必要はない
   4. 4精度の高いモデルは多数派・少数派を問わず正しく判断できているため、精度を最大化することがそのまま公平性の確保につながり、集団ごとの合格率や誤検出率を別々に検証する必要はなく、精度指標の報告だけで説明責任は果たせる
   答えと解説

   正解: 1

   公平性の定義には、デモグラフィックパリティ（集団間で肯定的な判定の割合を等しくする）、機会均等（真陽性率を等しくする）、予測の較正など複数があり、数学的に両立しない組み合わせがあることが知られています。したがって公平性への対処は技術だけでは完結せず、用途の社会的文脈に応じてどの基準を採用するかを人間が決め、その根拠を説明できるようにすることが求められます。精度と公平性はトレードオフになることもあります。

3. 問3
   融資審査AIから人種や性別などのセンシティブ属性を入力から除外したにもかかわらず、特定の人種への不利な判断が残っていた。原因として最も考えられるものを選びなさい。
   1. 1センシティブ属性を除外したことで入力の次元が減り、モデルの精度が上がりすぎて訓練データに過剰に適合し、公平性が損なわれていた
   2. 2モデルは入力に含まれない属性を推定することが原理的にできないため、残っていた不利な判断は評価データの偶然の偏りによるものであった
   3. 3センシティブ属性を入力から除外すれば公平性は達成されるため、不利な判断が残っていたのは公平性の測定方法や評価指標の選び方に誤りがあったためである
   4. 4郵便番号や出身校のように、センシティブ属性と強く相関する代理変数が入力に残っており、モデルがそれを通じて間接的に属性を推定していた
   答えと解説

   正解: 4

   センシティブ属性を単に除外しても、居住地域、氏名、学歴などがその属性と相関していれば、モデルは代理変数を通じて同じ偏りを学習します。公平性の確保には、代理変数の影響の検証、属性ごとの結果の比較、学習データの偏りの是正など、除外以上の対策が必要です。

4. 問4
   AIの公平性に対処するための技術的な手法の説明として、最も適切なものを選びなさい。
   1. 1学習前にデータの偏りを是正する前処理、学習中に公平性の制約を目的関数に加える方法、学習後に出力の閾値を属性ごとに調整する後処理など、複数の段階で対処する手法がある
   2. 2公平性への対処は学習後の後処理に限られ、学習前のデータの偏りや学習中の目的関数は精度に関わるため変更せず、出力の閾値だけを全属性で共通に固定する手法が用いられる
   3. 3性別や人種などのセンシティブ属性を入力から取り除けば公平性は保証されるため、属性の削除という前処理だけで対処でき、学習中や学習後の調整は必要ないとされている
   4. 4公平性の指標は統計的パリティのみが国際的に標準化されており、学習前にデータ数を属性間で完全に等しくそろえる前処理を行えば他の段階の対処は不要となる
   答えと解説

   正解: 1

   公平性への技術的対処は、データの再サンプリングや重み付けなどの前処理、公平性の指標を制約や罰則として学習に組み込む方法、出力後に属性ごとの判定基準を調整する後処理に大別されます。ただし公平性の定義自体が複数あり互いに両立しないこともあるため、どの定義を採用するかを関係者と合意することが前提になります。