GDPRとEU AI法のもとで社内のAIエージェントを運用する

2026年9月時点で確認した内容です。実務上の概要であり、法的助言ではありません。重要な判断は、弁護士またはデータ保護責任者に相談してください。

透明性：これはすでに適用されています

そのエージェントは高リスクか

• 雇用：履歴書の選考、候補者の順位付け、人事評価、昇進や解雇の決定
• 与信：個人の信用力の評価
• 保険：生命保険と健康保険の保険料設定やリスク評価
• 教育：入学選考、成績評価、試験中の学生の監視
• 必須サービス：公的給付や同様のサービスを受けられるかの決定

エージェントにとっての意味

• すべての利用に法的根拠が必要。顧客データを保有している理由が、新たな目的でそのデータをAIモデルに渡すことまで自動的にカバーするわけではありません。
• タスクに必要なデータだけを使う。請求書に関する質問に答えるエージェントに、毎回のプロンプトで顧客の全履歴は必要ありません。
• すべての処理者とデータ処理契約（DPA）を結ぶ。AIモデルの提供者、ホスティング事業者、メッセージングプラットフォームは、いずれも自社に代わって個人データを取り扱います。
• EU域外への移転。リクエストがEU域外のモデル提供者に届く場合、それは国際移転にあたり、有効な根拠が必要です。
• リスクが高い場合はDPIAを行う。新しい技術の大規模な利用、センシティブなデータ、体系的な監視には、通常データ保護影響評価が必要です。
• 重要な判断には人が関わる。人は、自らに法的効果または同様の重大な影響を及ぼす、もっぱら自動化された取扱いに基づく決定の対象とされない権利を有します。
• 会話記録とメモリの保存ルール。エージェントは会話ログとメモリファイルを保持します。他の記録と同様に保存期間が必要です。
• データ主体の権利はエージェントにも及ぶ。本人から自分のデータへのアクセスや削除を求められた場合、エージェントのログとメモリも対応の対象になります。

• 個人データは最初にローカルモデルに見せる。自分のマシン上の小さなモデルで、クラウドのモデルに何かを送る前にリクエストを分類し、項目を抽出し、氏名やID番号を取り除けます。
• エージェントをEU内でホスティングする。会話記録、メモリ、認証情報を保持するマシンがEU法の管轄下にとどまります。
• 業務データに合ったAPIの利用条件を選ぶ。各提供者について、API利用時のデータ保持と学習に関する条件、EU内でのデータ処理が可能かを確認してください。
• 影響のある操作には承認を必須にする。請求書の送付、レコードの変更、苦情への返信は、エージェントが準備し、人が確認するようにします。
• 監査証跡を残す。すべての操作について、きっかけとなったリクエスト、エージェントの判断、呼び出したツール、変更内容、承認者を記録します。
• エージェントには範囲を絞った認証情報を与える。可能な限り読み取り専用にし、作業に必要なシステムだけに限定し、すぐに無効にできるようにします。

AI法

• エージェントと対話していることをユーザーに知らせている
• 必要な場合、AI生成コンテンツに表示を付けている
• 高リスク分野に該当する利用がないか確認した
• 該当する場合、2027年12月に向けた計画がある

GDPR

• エージェントが読む、保存する、送信する個人データを把握している
• それぞれの利用に法的根拠がある
• すべての処理者と処理契約を締結している
• EU域外への移転に根拠がある
• リスクに応じて必要な場合はDPIAを実施している
• 重大な影響のある判断には人が関与している
• 会話記録とメモリに保存期間を定めている
• アクセスと削除の請求がエージェントのデータにも及ぶ

運用

• エージェントのすべての操作をログに記録している
• 影響のある操作には承認が必要
• 認証情報は範囲が絞られ、無効にできる
• プライバシーポリシーに利用しているAI提供者を明記している

• EU内でホスティング。Macとその中のすべてのデータはEU内にとどまり、EUの企業が運用します。
• ご要望に応じて処理契約を締結します。
• 1台のMacにつきお客様は1人。エージェントの会話記録、メモリ、認証情報は、他の誰も使わないハードウェア上に置かれます。
• 同じマシンでローカルモデルを実行。定型的なリクエストとそこに含まれる個人データを、第三者のAIサービスに渡さずに済みます。