透明性（説明可能性、ブラックボックス、データの来歴、透明性の対象）

この節の練習問題（3問）

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

1. 問1
   AIの透明性と説明可能性に関する記述として、最も適切なものを選びなさい。
   1. 1ディープラーニングは判断の根拠が人間に分かりにくいブラックボックスになりやすいため、融資や採用、医療のように影響の大きい用途では、判断の根拠を示す説明可能性や、どのデータで学習したかというデータの来歴の開示が求められる
   2. 2ディープラーニングは各層の重みがすべて数値として保存されているため、判断の根拠は人間にも容易に読み取れる。そのため融資や採用、医療のように影響の大きい用途でも、モデルの重みを公開すれば説明可能性は十分に確保されたとみなされる
   3. 3説明可能性とは、モデルのソースコードと学習用のプログラムを公開することを指し、判断の根拠を示す必要はない。融資や採用、医療のように影響の大きい用途では、データの来歴よりも、モデルの処理速度と正解率の開示が優先して求められる
   4. 4ディープラーニングは判断の根拠が人間に分かりにくいブラックボックスになりやすいが、影響の大きい用途ほど精度が重視されるため、融資や採用、医療の分野では説明可能性は求められず、代わりに学習データの来歴を非公開にすることが求められる
   答えと解説

   正解: 1

   透明性はAIを使っていること、判断の仕組みや限界、学習データの来歴などを関係者が理解できるようにすることで、説明可能性はある判断がなぜ下されたかを説明できることです。Grad-CAMやLIME、SHAPなどの技術がその手段になります。何をどこまで開示するかは対象（利用者、規制当局、社会）によって異なり、ソースコードの全公開が必須というわけではありません。影響の大きい判断ほど説明の要請は強くなります。

2. 問2
   AIの透明性を確保するために開示や記録の対象となる事項として、最も適切なものを選びなさい。
   1. 1モデルのすべての重みの数値とソースコード、学習に使った個人データの本人の氏名、開発に携わった社員全員の個人情報など
   2. 2競合他社との比較で優位性を示す営業資料、顧客の口座番号や取引履歴、モデルの評価に用いた社内の未公開の財務情報など
   3. 3学習データそのものの全件公開、モデルの内部構造の完全な数式による説明、利用者ごとの推論結果の全記録の一般公開など
   4. 4学習データの出所や収集方法（データの来歴）、モデルの目的と限界、評価結果、AIが関与していることの利用者への明示など
   答えと解説

   正解: 4

   透明性は、AIがどのようなデータでどう作られ、どこまで信頼できるかを関係者が把握できる状態を指します。データの来歴、モデルの目的・性能・限界、AIを使っていることの明示などが対象になります。重みの数値や個人情報をすべて公開することは透明性の目的とは異なり、営業秘密や個人情報の保護との両立が求められます。

3. 問3
   通販サイトの問い合わせ窓口に、生成AIによる自動応答チャットを導入する。透明性の観点から最も適切な対応を選びなさい。
   1. 1人間の担当者と区別がつかないよう、AIであることを伏せる
   2. 2対話相手がAIであることを、利用者に明示する
   3. 3透明性のため、モデルのすべての重みと学習データを公開する
   4. 4誤りの指摘を避けるため、応答の記録をすべて削除する
   答えと解説

   正解: 2

   透明性を与える対象には、AIが関与していることの利用者への明示が含まれ、対話相手がAIであることを示す必要があります。AIであることを伏せるのはこれに反します。すべての重みや学習データを公開することは透明性の目的ではなく営業秘密や個人情報の保護と両立させる必要があり、応答の記録を削除すると判断のプロセスを確認できなくなります。