AIガバナンス（AIポリシー、倫理アセスメント、監査、人間の関与、モニタリング、再現性、トレーサビリティ、ダイバーシティ）

この節の練習問題（4問）

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

1. 問1
   組織がAI倫理を実践するためのAIガバナンスの取り組みとして、最も適切なものを選びなさい。
   1. 1AI倫理の実践は開発者個人の倫理観に委ねるのが基本であり、組織は開発後に成果物を確認する監査部門を置けばよい。ステークホルダーの参加は開発を遅らせるため避け、再現性とトレーサビリティは研究用途のモデルにのみ求められる。ダイバーシティは倫理とは別の人事上の課題である
   2. 2AIポリシーの策定は法規制が整備されてから着手すべきであり、それまでは技術的な精度検証を倫理アセスメントの代わりとする。人間の関与は最終判断のみに限定し、運用中のモニタリングは外部委託先に一任し、トレーサビリティの確保は開発者に負担が大きいため任意とする
   3. 3組織としてのAIポリシーは外部の認証機関が定めるものとし、倫理アセスメントはリリース後に苦情が出た時点で行い、人間の関与は精度を下げるため最小限にとどめ、運用中の監視は個人情報を扱うシステムに限って実施する。開発チームは専門性をそろえるため同質な人員で構成する
   4. 4組織としてのAIポリシーを定め、開発前に倫理アセスメントでリスクを評価し、人間の関与やステークホルダーの参加を確保し、運用中はモニタリングと監査を行い、再現性とトレーサビリティを確保する。開発チームのダイバーシティも偏りを減らすうえで重要である
   答えと解説

   正解: 4

   AIガバナンスは、AI倫理の原則を組織の仕組みとして実現する取り組みです。方針（AIポリシー）の策定、企画・開発段階での倫理アセスメント、被影響者を含むステークホルダーの関与、人間による監督、運用中の性能や公平性のモニタリング、第三者を含む監査、学習データやモデルの変更履歴を追えるトレーサビリティ、結果を再現できる再現性の確保などで構成されます。多様な背景のメンバーが関わることは、見落としやバイアスの検出に有効です。

2. 問2
   AI倫理アセスメントと監査に関する記述として、最も適切なものを選びなさい。
   1. 1AIシステムの企画・開発段階では技術的な精度の検証だけを行い、公平性・安全性・プライバシーなどへの影響はリリース後に利用者からの苦情に基づいて一度だけ評価し（倫理アセスメント）、その後の監査は開発者自身が必要に応じて行う
   2. 2AIの監査は開発者自身が行うものと法律で定められており、第三者が関与することは認められていないため、企画・開発段階での倫理アセスメントは行わず、運用後に開発者が精度の推移を記録することで説明責任を確保する
   3. 3AIシステムの企画・開発段階で公平性・安全性・プライバシーなどへの影響を事前に評価し（倫理アセスメント）、その評価結果を公開すれば説明責任は果たされるため、運用後のモニタリングや第三者による監査は省略できる
   4. 4AIシステムの企画・開発段階で公平性・安全性・プライバシーなどへの影響を事前に評価し（倫理アセスメント）、運用後は第三者を含む監査で継続的に検証することで、問題の早期発見と説明責任の確保につなげる
   答えと解説

   正解: 4

   AIガバナンスでは、開発の早い段階でリスクを洗い出す倫理アセスメント（影響評価）と、運用中の継続的なモニタリング、内部・外部の監査を組み合わせることが推奨されています。アセスメントは一度きりではなく、モデルや環境の変化に応じて繰り返し行い、重要な判断には人間が関与する体制を維持することが求められます。

3. 問3
   AIの判断に問題が見つかったときに備え、どのデータで、誰が、どの設定で学習し、どう判断したかを後から追跡できるよう記録しておく取り組みとして、最も適切なものを選びなさい。
   1. 1再現性の確保
   2. 2倫理アセスメント
   3. 3トレーサビリティ
   4. 4ヒューマン・イン・ザ・ループ
   答えと解説

   正解: 3

   トレーサビリティは、学習に使ったデータ、担当者、設定、判断の過程を記録し、後から追跡できるようにする取り組みです。再現性は同じデータと設定で同じ結果が得られるようにコードや環境、乱数を管理することで、追跡のための記録とは目的が異なります。倫理アセスメントは企画・開発段階で影響を事前に評価する取り組み、ヒューマン・イン・ザ・ループは人間が監視・介入できる体制を指します。

4. 問4
   AIガバナンスの取り組みに関する記述として、誤っているものを選びなさい。
   1. 1AIポリシーは、組織がAIの開発・利用で守る方針を策定し公表するものである
   2. 2モニタリングはリリース前の検証で完了し、運用中は行わなくてよい
   3. 3ダイバーシティとして、開発チームや評価者に多様な背景の人を含める
   4. 4問題が起きたときの報告・対応の手順を、あらかじめ定めておく
   答えと解説

   正解: 2

   モニタリングは運用中の性能、データの分布の変化、公平性の指標、苦情を継続的に監視する取り組みで、リリース前で完了するものではありません。AIポリシーは組織として守る方針を策定し公表するもので、ダイバーシティは開発チームや評価者に多様な背景の人を含めて偏った視点を防ぐ取り組みです。問題が起きたときの報告・対応の手順を定めておくことも、体制面の要素です。