悪用（ディープフェイク、フェイクニュース、悪用事例と対応策）

この節の練習問題（3問）

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

1. 問1
   AI技術の悪用とその対応に関する記述として、最も適切なものを選びなさい。
   1. 1ディープフェイクは実在の人物の顔や声を合成する技術だが、生成には専門的な設備と高度な技術が必要で一般人には作れないため、なりすまし詐欺への悪用は現実的でなく、検知技術や来歴証明の整備は当面必要とされていない
   2. 2フェイクニュースの拡散は人間が文章を書いて投稿することで起きる問題であり、AI技術とは無関係であるため、対応策としては電子透かしや来歴証明ではなく、SNS事業者による投稿の全件手動チェックが進められている
   3. 3ディープフェイクへの対策は検知技術の開発など技術面だけで完結するため、コンテンツの来歴証明や電子透かしのような制度面の整備や、利用者のリテラシー向上のような教育面の取り組みは対応策には含まれない
   4. 4ディープフェイクは実在の人物の顔や声を合成する技術で、なりすまし詐欺や偽の発言動画によるフェイクニュースの拡散に悪用されており、検知技術の開発、コンテンツの来歴証明や電子透かし、利用者のリテラシー向上などが対応策として進められている
   答えと解説

   正解: 4

   生成AIの普及で、誰でも精巧な偽の画像・音声・動画や大量の偽情報を安価に作れるようになり、詐欺や名誉毀損、選挙への影響が懸念されています。対応には、検知技術やAI生成コンテンツの識別（電子透かし、来歴情報）といった技術的対策に加え、法制度の整備、プラットフォームの対策、利用者側の情報リテラシーが必要で、G7広島AIプロセスなど国際的にも議論されています。

2. 問2
   ディープフェイクの悪用への対応策として、最も適切なものを選びなさい。
   1. 1生成物を検知する技術は原理的に開発できないため、生成モデルの公開を国際的に禁止し、既に公開されたモデルの利用者を法規制によって処罰することで対処する
   2. 2偽の映像による被害は映像に映された本人の管理責任とされるため、個人が自分の顔や声のデータを公開しないよう啓発することを中心に対処する
   3. 3生成物を検知する技術の開発、生成物に電子透かしや来歴情報を付与する仕組み、プラットフォームでの表示ルール、法規制などを組み合わせて対処する
   4. 4生成物に電子透かしを付与すれば偽の映像は再生できなくなるため、透かし技術の義務化だけで対処でき、プラットフォームでの表示ルールや法規制は不要になる
   答えと解説

   正解: 3

   ディープフェイクは、なりすまし詐欺、偽情報の拡散、名誉毀損などに悪用されます。対策は検知技術、コンテンツの来歴を証明する電子透かしや標準規格、プラットフォームのラベル表示、名誉毀損や肖像権侵害への法的対応などを重層的に組み合わせることです。研究の全面停止は現実的でなく、責任は作成・拡散した側にあります。

3. 問3
   報道機関が、自社で撮影した映像が加工されていない本物であることを、視聴者に示せるようにしたい。対応として最も適切なものを選びなさい。
   1. 1映像の解像度を上げ、偽物と見分けやすくする
   2. 2映像に映った人物に、偽物が出回った場合の責任を負わせる
   3. 3偽物の検知モデルを導入し、自社映像の履歴は特に残さない
   4. 4撮影・編集の履歴を記録するコンテンツ来歴の規格を導入する
   答えと解説

   正解: 4

   生成物への電子透かしや、撮影・編集の履歴を記録するコンテンツ来歴の標準規格は、映像の来歴を証明する手段です。解像度を上げても真正性の証明にはならず、偽の映像の責任は作成・拡散した側にあり、映された本人にはありません。検知技術は生成技術との競争が続くため、単一の対策に頼らず来歴の証明と組み合わせる必要があります。