AIガバナンスと法務：AIポリシー、利用ガイドライン、3つの法的リスク、責任分界点

第3章 AIデータリテラシーとマネジメント　／　節 4

シラバスのキーワード: AIポリシー利用ガイドライン個人情報法的責任責任分界点Human-in-the-Loop法務部門への翻訳RAG

本文を読んだあと、覚えているか確認してください。

「このデータ、AI に入れていいんですか」

社員から必ず出る質問です。答えられないと、現場は怖くて使わないか、逆に何でも入れてしまいます。どちらも事故につながります。この問いに組織として答えるのが AI ガバナンスです。

AIガバナンスは、AIエージェントをどう利用し、管理し、監督するかを定めた体制・ルール・プロセスの総称です。AIエージェントは一部を自律的に判断して動くので、誰がどこで何のために動かしているかを把握していないと、問題が起きたときに原因を特定できません。ここは第1章のブラックボックス化リスクとつながります。

AI ポリシーと利用ガイドライン：方針と、現場の判断基準

AIポリシーは、組織としての利用ルールを文書にしたものです。核心は 入力を許可するデータと禁止するデータの明確な定義です。

許可の一般例: 公開情報、社内 FAQ、一般的な業務文書
禁止の一般例: マスキングしていない個人情報、未公開の財務情報、営業秘密

ただし、万社共通の正解はありません。業種、扱う情報の機密レベル、クラウド型かオンプレミス型か（データが社外に出るかどうか）、適用される法規制で、企業ごとに大きく変わります。他社のテンプレートをそのまま流用するのは誤りで、法務・セキュリティ・事業部門と協議して自社用に作ります。作ったら終わりではなく、半年から1年に一度の見直しを運用に組み込みます。

利用ガイドラインは、ポリシーを個々の社員が日常業務で判断できる具体的な行動レベルに落としたものです。「個人情報を入れない」では判断できません。「顧客名はイニシャルに置き換える」「口座番号は入力欄に貼らない」「迷ったら情報システム部の〇〇に確認する」のように、何を・どうすれば・誰が確認するかまで書きます。ガイドラインの質は具体性で決まります。

3つの法的リスク

著作権リスク: 学習データに含まれる著作物の権利と、生成物の権利帰属の問題です。現時点では「AI の出力そのものには原則として著作権が発生しない」とする見解が主流ですが、人が創作的に関与した場合は認められる可能性があります。解釈は変わり続けるので、法務と継続的に確認します。
個人情報保護法リスク: 個人を特定できる情報を外部の AI サービスに送る場合、利用目的の明示、本人の同意、安全管理措置が必要です。送る前に氏名や口座番号を伏せるマスキングは、この要件への具体的な対応策です。
責任分界点のリスク: AI が誤った判断をしたとき、誰が責任を負うかに答えられていないリスクです。AI に法的責任を負わせることはできません。 だから、人が確認・承認してから実行する Human-in-the-Loop で「AI の判断をそのまま実行したわけではない」状態を作り、設計者・承認者・経営者それぞれの責任範囲を文書にします。責任分界点は導入前に決めます。自動回答なら運用管理者が、担当者が確認して送る設計なら確認して送信した時点で担当者に責任が移る、といった形です。

法務部門に「翻訳」して伝える

技術の説明をそのまま法務に伝えても、判断材料になりません。法務が判断できる言葉に翻訳するのがストラテジストの仕事です。

「RAG で社内文書を参照して回答します」→ 「社内文書のテキストが外部の AI サービスに送信され、その内容を参照して回答が生成されます。個人情報・未公開の財務情報・営業秘密が含まれる場合は、個人情報保護法への対応と情報漏えいリスクの評価が必要です」
「ハルシネーションがあります」→ 「誤った回答で業務上の損害が出た場合、使用者責任が問われる可能性があります。回答精度の合格基準と、誤回答時の免責事項の設計が必要です」

逆に「AI が社内文書を学習して知識を更新します」という説明は、RAG では学習は起きないので事実と違い、法務に「社内データがモデルに取り込まれる」という誤解を与えます。

AIエージェント台帳（第1章）に記録する項目は、エージェント名、目的、管理者、使用 LLM、入力データの範囲、出力の利用範囲、アクセス権限、更新頻度、最終監査日です。四半期に1回棚卸しして、登録外のエージェントがないかを確認します。

ガバナンスは導入を止めるためのものではありません。リスクを見える化し、許容できる範囲で管理しながら安全に使うための土台です。

試験で問われる観点

AI ポリシー策定の正誤: テンプレート流用は誤り、クラウドとオンプレミスで内容は同じでよいは誤り、定期的な見直しは必要。
技術説明を法務向けに翻訳した表現の適切さ。「学習して知識を更新する」は RAG の説明として誤解を招く。
自動回答の誤りで損害が出た場合の責任の所在: AI ではなく、ポリシーで定めた責任分界点に従って運用管理者または組織。
3つの法的リスク（著作権、個人情報保護法、責任分界点）と、それぞれの対策（法務との継続確認、マスキング、Human-in-the-Loop）。
利用ガイドラインの質は具体性で決まる。

この節の練習問題（5問）

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

問1
AIポリシーの策定に関する記述として、誤っているものはどれか。
1. 1一度策定して終わりではなく、半年から1年に一度の定期的な見直しを運用サイクルに組み込む
2. 2核心は入力を許可するデータと禁止するデータを明確に定義することであり、業種や利用形態によって内容は企業ごとに異なる
3. 3クラウド型とオンプレミス型ではデータが外部に送信されるかどうかが異なるため、リスクの性質とポリシーの内容も変わる
4. 4他社が公開しているポリシーのテンプレートをそのまま採用すれば、自社の業務内容やリスク許容度を検討しなくても十分に機能する
答えと解説
正解: 4
AIポリシーに万社共通の正解は存在せず、業種、機密レベル、利用するAIサービスの形態、適用される法規制で企業ごとに大きく異なります。他社のテンプレートをそのまま流用せず、自社の業務内容とリスク許容度に基づいて法務・セキュリティ・事業部門と協議して策定します。許可・禁止データの定義、クラウドとオンプレミスの違い、定期的な見直しに関する記述は正しい内容です。
問2
RAGを使ったヘルプデスクAIの導入について法務部門に相談する際、技術的な説明を法務が判断できる表現に翻訳したものとして最も適切なものはどれか。
1. 1社内文書のテキストが外部のAIサービスに送信され、その内容を参照して回答が生成される。個人情報や未公開の財務情報が含まれる場合は個人情報保護法への対応と情報漏えいリスクの評価が必要である
2. 2AIが社内文書を読み込んで学習し、内部の知識を更新していくため、文書の内容がモデルの一部になる。学習が済めば元の文書を削除してもモデルへの影響はない
3. 3ベクトルデータベースにチャンクをインデックス化し、質問のベクトルとのコサイン類似度でセマンティック検索を行い、上位のチャンクをコンテキストとしてLLMに渡す構成である
4. 4AIは社内文書を一切外部に出さずに回答するため、クラウド型でも個人情報保護法上の検討は不要であり、法務部門に確認してもらう事項は特にない
答えと解説
正解: 1
技術説明をそのまま伝えても法務の判断材料にはなりません。データがどこに送られ、どう使われ、どの法規制に関わるかに翻訳します。RAGはモデルに学習させる仕組みではないため「学習して知識を更新する」は誤解を招く表現です。クラウド型のサービスでは文書が外部に送信されるため、個人情報や営業秘密が含まれる場合の法的な検討は必要です。
問3
ヘルプデスクAIが自動回答した内容に誤りがあり、社員がその手順に従った結果、業務に損害が生じた。責任の所在に関する考え方として最も適切なものはどれか。
1. 1責任の所在は実際に事故が起きてから当事者間で協議して決めるものであり、導入前にAIポリシーなどで責任分界点を定めておく必要はない
2. 2AIには法的責任を負わせられないため、事前にAIポリシーで定めた責任分界点に従い、自動回答の運用管理者または組織が責任を負う
3. 3回答を生成したのはAIであり、AIサービスを提供している外部ベンダーが出力の内容に責任を持つべきなので、損害の賠償を含めてベンダーがすべての責任を負う
4. 4AIの回答を検証せずに誤った手順に従ったのは社員本人の判断ミスなので、運用管理者や組織ではなく社員個人が損害についての全責任を負う
答えと解説
正解: 2
AIには法的責任を負わせられないため、誤判断時に誰が責任を負うかは導入前に定義しておく必要があります。自動回答なら運用管理者、担当者確認付きなら確認して送信した時点で担当者に責任が移る、といった責任分界点をAIポリシーに明文化します。Human-in-the-Loopは「AIの判断をそのまま実行したわけではない」状態を作る手段でもあります。事故後に協議する運用や、ベンダーや社員個人への一方的な責任転嫁は適切ではありません。
問4
発注管理システムのAPIは、参照、下書きの作成、発注の確定、取引先への送信に対応している。AIエージェントは発注案の下書きまでを担い、確定と送信は購買担当者が行う設計である。最小権限の考え方に沿ったAIエージェントの権限設計はどれか。
1. 1AI専用の権限は設けず、購買担当者の共有アカウントでAIエージェントが参照と下書きの作成を行い、操作の記録は担当者のものとして残す。
2. 2AI用の権限は参照と下書きの作成に限定し、発注の確定と取引先への送信は、それぞれの権限を持つ購買担当者が実行する。
3. 3AI用の権限に参照、下書きの作成、発注の確定を含め、確定の実行前にAIエージェントが購買担当者へ承認を求める手順を組み込む。
4. 4AI用の権限に送信までを含め、送信のたびに購買担当者の承認情報を添えて記録することで、人の関与を監査できるようにする。
答えと解説
正解: 2
最小権限は、業務に必要な操作だけを与え、それ以外は持たせない考え方です。AIの担当が下書きまでなら、権限も参照と下書きの作成までに限定し、確定と送信の権限は持たせません。承認の手順を組み込んでも権限自体があれば、不具合や指示の誤りで実行されるおそれが残ります。送信の権限を与えて承認情報を添える設計も同じです。共有アカウントはAIの操作と人の操作を区別できず、責任分界と監査の両方を損ないます。「人が確認する」ことと「AIが権限を持たない」ことは別で、取り消しにくい操作ほど権限そのものを分けます。
問5
自治体の給付審査を支援するAIエージェントでは、個人番号を汎用の分析ログに残さず申請IDに置き換える規則があり、違反は重大な権限逸脱として次の展開を止めると定めている。第1波の運用中に、置き換えられていない個人番号が分析ログに1件記録されていた。処理時間と見落とし率は基準内である。次の対応として最も適切なものはどれか。
1. 1該当する記録を申請IDへ置き換え、ほかのログは月次レビューで確認する条件を付けて、第2波を予定どおり開始する。
2. 2個人番号を含む記録の利用目的と保存期間を定め、閲覧を情報システム部門に限定したうえで、精度改善用のデータとして保存を続ける。
3. 3第2波を止め、該当する記録を保護したうえで、記録された経路、閲覧できた範囲、同種の記録の有無を確認し、再発防止策を講じてから再開を判断する。
4. 4分析ログの閲覧を情報システム部門に限定し、個人番号を申請IDへ置き換えて保存期間を短縮したうえで、第2波を開始する。
答えと解説
正解: 3
あらかじめ「違反1件で次の展開を止める」と定めた条件に該当した以上、効果の指標が基準内でも展開は止めます。1件だけに見えても、記録された経路が分からなければ同種の記録がほかにもある可能性を否定できず、誰が閲覧できたかを確認しなければ影響範囲が決まりません。該当記録の置き換えや閲覧の限定は必要な処置ですが、原因と影響範囲の確認を省いて展開を続ける理由にはなりません。個人番号を精度改善用に保存し続ける案は、規則が禁じた扱いそのものです。停止条件は「満たしたら止める」ために置くもので、ほかの指標の良さで相殺しません。