金融安定理事会は、10月15日、最終報告書「AIの責任ある導入に関する健全な実務慣行」を公表しました。同報告書は、同理事会による初めての金融機関向けのAIガバナンスに関するガイダンスであり、組織全体の体制整備と個別ユースケースのライフサイクル管理の2つの階層で、12の健全な実務慣行を提示しています。当事務所の那須翔弁護士は、金融庁出向中、同報告書の策定に関与し、当事務所復帰後は、金融商品取引法・資金決済法をはじめとする金融規制に関する助言と、個人データ保護・AI・サイバーセキュリティに関する助言に従事しています。本記事では、那須弁護士が、上記報告書の内容と、実務で参照する際のポイントを解説します。

はじめに―本報告書の概要、位置づけ

金融安定理事会（FSB）は、10月15日、最終報告書「AIの責任ある導入に関する健全な実務慣行」[1]を公表しました。
本報告書は、3部構成となっており、

• 第1部では、金融システム[2]におけるAI利用の状況と関連する便益・リスクが概説され、
• 第2部では、組織全体のAIガバナンスのための4つの健全な実務慣行（SP）が示され、
• 第3部では、個別のAIのライフサイクル全体を通じてAIを管理するための8つの健全な実務慣行が示されています。

本報告書は、FSBがAI分野で初めて金融機関向けに作成した文書ですが[3]、あくまで安全かつ責任あるAI導入を支援するという位置づけであり、直接にその遵守を求めたり、各国当局に監督上の措置を求めるものではありません。
AIガバナンスに関する文書としての本報告書の特徴として、生成AIの普及後で、かつ、エージェンティックAIが注目を集め始めた時期に作成されたことが挙げられます。従来の文書は、従来型AIの時代に作成され、生成AIに関する要求事項を付け加えた形になっているものが多く、現状に鑑みたとき、必ずしも利便性が高くなかったように思われますが、本報告書は、2026年前半の状況を前提に、かつ今後のエージェンティックAIの普及も視野に入れて作成されており、より現代的なものとなっていると考えられます。
また、本報告書のもう1つの特徴として、便益にも十分配慮し、比例性を重視するとの方針で作成されていることが挙げられています。具体的には、SP本文では、「適切な」「効果的な」「実現可能な場合」といった柔軟な対応を許容する文言が多く用いられ、具体的な考慮事項としても、様々なユースケースを念頭に、取りうる選択肢を例示するという形が取られています。従来、特に、説明可能性[4]・透明性[5]や、人間による監督[6]に関して、一定の一律の対応を必要とする向きがあったように思われますが（筆者らがしばしばご相談をお受けする点です。）、本報告書は、そのような立場には立っていません。
一方で、本報告書は、その性質上、資本市場等のサブセクター特有の考慮事項[7]は、正面からは取り上げられていません。

金融機関におけるAI利用の状況

金融機関におけるAIの利用の状況は、以下のように概説されています[8]。逐一明示はされていないものの、従来型AIの活用が中心であると推察されます。

• 銀行：信用リスク管理、不正検知、文書処理、内部統制などで従来型AIの利用が進んでいる。一方、重要な金融判断を伴うフロント業務では、説明可能性やリスクへの懸念から慎重な導入が続いている。
• 保険：歴史的にルールベースのシステムに依存してきたが、保険金請求処理、顧客分類、不正検知、引受審査などでAIの導入が拡大している。
• 資本市場・資産運用：クオンツトレーディング会社及び大規模な資産運用会社を中心に従来型AIが活用されてきた。アルゴリズム取引、ポートフォリオ最適化、市場監視、センチメント分析、ボラティリティ予測などに活用されている。
• 決済：顧客行動のリスク分析、顧客登録、本人確認（KYC）などで利用が進み、確認業務の精度と処理速度が改善している。
• 金融市場インフラ：異常取引の検知、市場監視、決済・照合業務、ストレステスト、信用不履行の早期警戒などへの活用が検討・実施されている。

また、ケーススタディとして、以下のものが紹介されています。こちらは、より最新のユースケースを含んでおり、生成AIを活用したものが複数含まれています。

• 信用リスク管理：機械学習によって中小企業の資金繰り悪化を早期に検知する（大手地域銀行）。
• 信用審査：生成AIを用いて財務資料から情報を抽出し、信用評価に関する説明文書を生成するとともに、リスクの検知を支援する（中規模地域商業銀行）。
• 投資リスク評価：AIが投資提案書を分析し、投資方針に照らした初期的なリスク評価を作成する。評価結果には根拠資料を関連付ける（グローバル資産運用会社）。
• 不正検知：エージェンティックAIが不正行為の新たなパターンを継続的に分析し、不正検知ルールを自律的に提案する（国際的に活動する大手銀行）。
• 不正検知・本人確認：顔認証に加え、画像の背景に含まれる不審な特徴や類似性をAIで分析する（デジタル銀行）。
• 顧客サービス：社内データと外部情報を統合し、法人営業担当者による顧客分析や提案書作成を支援する（グローバルなシステム上重要な銀行（G-SIB））。
• 保険金請求処理：OCRとAIを組み合わせて請求書類から情報を抽出し、保険契約情報との照合を自動化する（国際的に活動する大手保険会社）。
• 業務効率化：保険引受けの予備審査書類をAIで自動作成する。また、ソフトウェア開発にAIコード生成ツールを導入する（国際的に活動する大手保険会社）。
• オペレーショナル・レジリエンス：決済参加金融機関のシステム障害時に、AIが200超の取引変数と過去の承認パターンを分析し、決済承認を代行する（グローバル電子決済ネットワーク運営者）。

なお、この点に関連して、欧州証券市場監督局（ESMA）が今年2月に公表した報告書[9]では、2025年6月から9月にかけて実施した調査では、①報告されたユースケースのうち87%が文書作成・要約、社内AIアシスタント、プログラムコードの生成及びデータ処理などの社内利用であり、ポートフォリオの最適化、アルゴリズム取引及びロボアドバイザーなどの投資サービスの中核業務における利用は限定的、②報告されたユースケースのうち77%は自律性が低いか、ほとんど自律性がないとされています。
また、米国の証券分野の自主規制機関FINRAが2025年12月に公表した監督活動に関する年次報告書[10]では、ESMA報告書のような統計は含まれていないものの、生成AIについては具体的なユースケースが示される一方、エージェンティックAIについては新興トレンドとして紹介されるにとどまっており、EUと大きく変わらない状況であることが推察されます。
金融庁でAI官民フォーラムの運営とAIディスカッションペーパー改訂に携わった筆者の感覚としても、日本と海外で大きく利用の状況が異なるわけではないと考えています。

組織全体のAIガバナンス

ここからは、具体的なSPについて解説します。その際、分かりやすさのため、SPの内容→具体的な考慮事項（本報告書本文の要約）→実務で参照する上でのポイント、という共通の構成を取ることとします。
組織全体のAIガバナンスでは、①取締役会及び上級経営陣の役割、②ガバナンス枠組み、③リスク管理枠組み、④AIの発展に応じた適応力、の4つのSPが示されています。

SP1 戦略的方向付けと監督

【SPの内容】

取締役会及び上級経営陣は、AI導入及びガバナンスを、金融機関のビジネスモデル、リスクアペタイト及び戦略と整合させる。

【具体的な考慮事項】

• 取締役会及び上級経営陣によるAI導入の監督：取締役会及び上級経営陣は、AI導入を事業戦略に位置付け、ビジネスモデル、リスク管理、顧客サービス、効率性、成長及び法令・規制遵守への便益と関連リスクを評価する。AI導入に関する役割及び責任を既存のガバナンス体制に組み込み、必要に応じて外部専門家を活用しつつ、上級経営陣の明確なアカウンタビリティを確保する。また、AI導入に期待する成果を定義・共有し、組織能力、技術インフラへの投資及び戦略的パートナーシップを整合させる。AI導入方針は定期的に、また技術やリスク環境に重大な変化が生じた際に見直し、マネジメント情報を通じて戦略・リスクアペタイトとの整合性、法令・規制遵守及び実施の有効性を評価する。
• AIリスクを踏まえたリスクアペタイト及びリスク許容度の設定：取締役会及び上級経営陣は、AIリスクをリスクアペタイト及びリスク許容度に反映し、高リスク・重要性の高いユースケースの採用基準や、クリティカルな事業分野における完全自動化された意思決定の禁止など、AI導入の境界を設定する。その際、説明可能性、自律性、顧客への影響、法令・規制要件及びサードパーティへの依存などを考慮し、金融機関の行為基準との整合性を確保する。また、AIユースケースの選定・優先順位付け及びリスク管理上の統制にリスクアペタイトを反映し、必要な人間による監督、救済措置、統制の有効性を示す証拠及びエスカレーション手順を整備する。
• AI導入を支える適切な資源配分：取締役会及び上級経営陣は、AI導入を継続的に支えるため、取締役会、上級経営陣及び統制機能を含む職員の専門知識・スキルを確保するとともに、適切なデータ・技術基盤を維持する。AIがクリティカルな業務や中核的な事業部門に組み込まれる程度、技術の進歩及び法令・規制要件の変化に応じて、資源配分及び組織能力の適切性を定期的に再評価する。

【実務上のポイント】

SP1は、取締役会及び上級経営陣（日本では業務執行取締役や執行役員が相当すると考えられます。）の役割を示しています。AIガバナンスは、従来、普遍的な倫理原則を出発点として論じられることも多かったように思われますが、本報告書は、既存のガバナンス体制への組み込みを重視しています。

SP2 ガバナンス・アカウンタビリティ

【SPの内容】

金融機関は、責任あるAI導入を可能にするため、明確な役割及び責任を定義し、適切なガバナンスフレームワークを維持する。

【具体的な考慮事項】

• AI導入に関する明確な役割及び責任の定義：金融機関は、3線モデルなどの既存の構造又は新たな構造を活用し、AI導入に関する役割及び責任を明確にする。第1線はAIユースケースの事業上の成果、統制、重要性及びリスクを評価し、重要性又はリスクの高いユースケースについて特定の役員がアカウンタビリティを負うことができる。第2線は組織全体のAIリスクを把握し、コンプライアンス、データの質、説明可能性、コンダクトリスク、サイバー・ICTリスク及びモデルのパフォーマンスなどを独立して評価・検証する。第3線は重要性及びリスクに応じた保証を提供する。また、監査、評価、リスク管理及びテストなどの統制機能は、開発チーム及び事業部門から機能的に独立し、十分な権限と専門能力を備える。AIによって別のAIを監視・管理する場合も、監視側のAIの独立性を確保する。
• 責任あるAI導入のための適切な運営モデルの維持：金融機関は、AI導入の性質及び規模に応じて、集中型、分散型又はハイブリッド型の運営モデルを採用する。集中型は監督及び基準の一貫性、分散型は事業部門の柔軟性及び専門知識の活用を重視し、ハイブリッド型は両者を組み合わせる。既存の運営モデルを活用・調整することも可能であり、定期的に、またAI導入、技術又はリスク環境に重大な変化が生じた際に見直し、戦略の有効性、組織全体でのリスク管理の一貫性及びリスクアペタイト・リスク許容度との整合性を確保する。
• 機能横断的な調整の仕組みの確立：金融機関は、事業部門、リスク管理、技術、コンプライアンス、法務及び開発部門などの関係者が連携する仕組みを整備し、知識共有、AIの便益・リスクの包括的な把握、実施計画の最適化並びに責任・アカウンタビリティの明確化を図る。具体的には、定期的な会議、標準化された連絡経路、一貫したリスク評価・モニタリング・報告手法及びフィードバックの仕組みなどが考えられる。また、高度に自律的なAIについて、モデル、システム及びエージェント間の相互作用・依存関係を含むエンドツーエンドのリスク評価を支援する。

【実務上のポイント】

SP2は、整備すべきガバナンス枠組みについて、選択肢を示しています。筆者の感覚では、日本の金融機関においては、既存の3線モデルに依拠しつつ、AIの専門性を考慮して、AI利用の推進を統括する部署（又は担当者。いわゆるCoEに当たります。）を設けつつ、1線・2線の各部門でAIに関連する問題を担当する者を選定し、それらの担当者が日常的にやり取りするモデルが多いと理解しています。なお、3線モデルの考え方からは、2線がAIを活用する場合、上記のとおり、当該AIの独立性が求められますが、AI利用に関する知見は、1線（データ、AI、デジタル部門）に偏っていることが多く、実務上の課題であると考えられます。

SP3 リスク管理枠組みへのAIリスクの組込みとAI利用の効果的な文書化

【SPの内容】

金融機関は、AIリスクに効果的に対処し、かつ、AI利用の文書化並びに重要性及びリスクの評価のためのプロセスを含むリスク管理フレームワークを採用する。

【具体的な考慮事項】

• リスク管理枠組みへのAI関連リスクの組込み：金融機関は、AIリスクの特定、評価、受容・承認、文書化、モニタリング及び管理を可能にするため、既存のリスク管理枠組み、方針及び手続にAI固有の考慮事項を組み込む。既存の枠組みが透明性・説明可能性の欠如、自律性、不十分な人間による監督などのリスクに対応できない場合には、枠組みを強化し、又は新たに整備する。また、重要性及びリスクに応じて統制を調整し、低リスクのユースケースには簡素なプロセスを、高リスク・重要性の高いユースケースには厳格なプロセスを適用する。展開前の管理された環境での実験・試行を含む段階的な承認も考えられる。
• AI利用に関する文書化及びライフサイクル記録の維持：金融機関は、AIリスクの可視性、アカウンタビリティ、検証及び監査可能性を確保するため、AIライフサイクル全体を通じて文書及び記録を維持する。記録対象には、AIの目的・用途、モデル・システムの構成及び選定根拠、開発・調達形態、重要性・リスク評価及び軽減策、責任者、使用データ、他のシステムやサードパーティへの依存関係並びに承認・テスト・モニタリング・検証の結果などが含まれ得る。既存のインベントリや登録簿を活用できるが、高リスク・重要性の高いユースケースでは記録を詳細化する。また、記録を無許可の変更・削除から保護し、特に重要な情報については可能な限り改ざん不能性を確保する。
• 生成AI及びエージェンティックAIに固有の記録管理：金融機関は、AIによる行為、決定、推奨及び出力を追跡できるよう、プロンプトのバージョン、モデルのパラメータ・性能の変化及び必要に応じて思考の連鎖のログなどを記録し、監査、検証及び以前の構成への復旧を可能にする。エージェンティックAIについては、各エージェントに一意の識別子を付与し、実行した行為、設定・監督した人間、行為の開始原因、アクセスした情報・ツール、中間ステップ、外部とのやり取り、人間へのエスカレーション及び権限の遵守状況を追跡できるようにする。これにより、異常行動の検知及び人間による監督を支援する。ログの収集・保持範囲は、過剰なデータ蓄積を避けつつ、リスクプロファイルに影響する行為や決定を優先するリスクベースの方法で設定する。

【実務上のポイント】

SP3は、まず、既存のリスク管理枠組みにAI関連リスクを組み込むことを求めています。SP2と重複しますが、金融機関は他の業種と比べ、リスク管理について実務の蓄積を有しているため、それを基礎に、AIの特性に応じた調整を行えば足りる場合が多いと考えられます。
また、SP3は、AI利用に関する文書化・記録も求めています。文書化・記録は、しばしば形骸化しがちですが、本来、社内外のステークホルダーがAIユースケースについて共通の認識を持って相互に関わり合うための拠り所となるものであり、ステークルダーのニーズに応じて設計され、活用されるべきであると考えられます。同時に、実務上重要なのは、重要性・リスクに応じた文書化・記録が求められていることであり、類型的に重要性・リスクが低いユースケース（例えば、SaaSツールにAIを使用した機能が組み込まれたが、従来の機能の延長上と評価できるような場合）については、重要・リスクに変化がない限り、簡素な文書化・記録に留めることも考えられます。

SP4 組織の適応力

【SPの内容】

金融機関は、AIの進化に応じて、その監督、ガバナンス、リスク管理の慣行及び能力を学習し、適応させ、調整する。

【具体的な考慮事項】

• AIの専門性及びリスクを意識した文化の維持：金融機関は、AIの専門性を育成・維持し、検証、エスカレーション及び継続的な学習を奨励する文化を醸成する。全職員には、不適切な使用、自動化バイアス、AIへの過度の依存及び異常な挙動を認識・対処するための基礎研修を提供し、開発者、検証者、リスク管理担当者、監査人及びコンプライアンス担当者には、データ・モデルのドリフト、説明可能性の欠如などに対応する専門能力を育成する。また、AI出力を批判的に検証し、AIが利用不能又は機能低下した場合にも業務を遂行できる人間の専門性を維持するとともに、取締役会及び上級経営陣には監督に必要な研修を提供する。インシデント、ニアミス、テスト・検証結果及びサードパーティから得られた教訓を研修や行動基準に反映する。
• 外部動向の継続的な把握：金融機関は、新たなAI技術、リスク及び監督上の期待を適時に把握し、内部では検知されていないリスクの兆候を特定する。具体的には、AIの能力、モデル構造及びリスク類型の変化を監視するとともに、同業金融機関、業界団体、学術関係者、技術提供者及び当局との情報交換を行う。また、共同学習、協働テスト及び官民コンソーシアムへの参加を通じて、脆弱性や是正措置に関する知見を共有し、外部情報を分析してガバナンスの見直しが必要な領域を特定する。
• 新たな知見に応じたガバナンス及び統制の改善：金融機関は、AIインシデント、テスト結果及び新たなリスクに関する内部・外部の知見を踏まえ、ガバナンス、ライフサイクル上の統制及び監督体制を継続的に見直す。AI関連インシデントについては、従来の分析では把握できない訓練データの社会的バイアスなども考慮して根本原因分析を実施し、異常、ドリフト及びニアミスを統制改善の契機とする。また、従来の前提を再評価し、方針・基準・手続を更新するとともに、生成AI、基盤モデル、フロンティアモデル及びエージェンティックAIなどの新たなリスクに対応できるよう、ガバナンス、職員の能力及び管理ツールを改善する。

【実務上のポイント】

SP4は、適切な組織文化の醸成、従業員等の役割に応じた教育、情報収集とガバナンスの継続的改善を求めています。ガバナンスは、究極的には人に依存するため、SP4は、SP1-3の前提となると考えられます。

個別のユースケースのライフサイクル管理

個別のAI利用のライフサイクル管理については、⑤重要性・リスクを評価するための体系的アプローチ、⑥適切な選定プロセス、⑦AIの訓練・テスト・使用のためのデータガバナンス、⑧個々のAIの説明可能性の理解・対応と、ステークホルダーに応じた適切な透明性、⑨重要性・リスクに比例したパフォーマンス管理、⑩重要性・リスク等に応じた人間による監督、⑪サイバーリスク・ICTリスク管理へのAI関連リスクの組み込み、⑫サードパーティリスク管理へのAIリスク管理の組み込みの8つのSPが示されています。
なお、本報告書は、AI利用のライフサイクルを、典型的には、構想→設計・開発→検証・妥当性確認→展開→運用・モニタリング→再評価→廃止からなるとしています。ただち、これはあくまで例示であり、汎用モデルを使用して別のアプリケーションを開発する場合や、そのようにして開発されたアプリケーションを導入する場合のように、必ずしも全てのステップが金融機関（やその開発委託先）で完結するわけではないことに留意する必要があります。

SP5 重要性・リスク評価

【SPの内容】

金融機関は、構想段階及びその後において、AIユースケースの重要性及びリスクを評価するための効果的かつ体系的なアプローチを実施する。

【具体的な考慮事項】

• AIユースケースの重要性・リスクに応じた管理：金融機関は、AIユースケースの重要性及びリスクを体系的に評価し、結果に応じてガードレール、人間による監督及びリスク軽減措置を比例的に設定する。重要性とリスクは異なる概念であり、重要性の低いユースケースでも高いリスクをもたらす場合がある。
• 重要性評価：金融機関は、AIユースケースが金融機関の存続可能性、クリティカルな業務及び法令・規制上の義務の履行に与える影響を評価する。その際、財務上・業務上・戦略上の重要度、業務の混乱に対する許容度、データの性質並びにAIモデル・システム及びサービス提供者の代替可能性を考慮する。
• リスク評価：金融機関は、AIの自律性・能力・複雑性、データ・システムへのアクセス、サイバー・ICTリスク、説明可能性、信頼性、パフォーマンス、サードパーティへの依存、人間による監督及び法令・規制要件などを評価する。その際、統制適用前の固有リスクと適用後の残存リスクを区別する。
• 評価枠組み及び継続的な見直し：金融機関は、AI固有の評価枠組みを整備するか、モデルリスク管理、オペレーショナル・レジリエンス及びサードパーティリスク管理などの既存の枠組みをAI固有のリスクに対応させる。重要性及びリスクは、構想段階に加え、定期的に、また利用範囲の拡大、インシデント又はパフォーマンス低下などに応じて再評価する。
• エージェンティックAIに固有のリスク評価：金融機関は、エージェンティックAIの自律性、データ・システムへのアクセス及び外部環境との相互作用を評価し、ユースケースごとのリスク許容度に応じて権限を設定する。新たなアクセス権限を付与する際には、既存の権限との組合せによってリスクが相乗的に増大する可能性を考慮する。

【実務上のポイント】

SP5は、AIの重要性とリスクに関して、体系的な評価枠組みの整備と、当該枠組みの継続的な見直しを求めています。従来、AIガバナンスにおいては、AIに関連して生じうる危害の大きさとその蓋然性という、いわば狭義のリスクが重視されてきたように思われますが、本報告書は、金融機関にとっての重要性を独立の変数としています（なお、当該枠組みは、一定の業務目的を達成するための手段としてAIを導入するという、金融機関が置かれることになる立場を考慮したものと思われますが、実務上は、業務への支障を広義のリスクの1つとして取り扱うことも考えられます）。現在、AIが金融機関の中核的な業務に不可欠な役割を果たすケースは必ずしも多くはないものと思われますが、今後、そのようなケースが徐々に現れることが予想され、その場合には、本報告書の言う「重要性」が、AIモデル・システムの選定や統制の検討に当たっての重要な考慮要素となると考えられます。
なお、本報告書第3部は、何が適切な統制であるかは、重要性・リスク評価の結果を踏まえて決定されるべきであるという、リスク管理の考え方に立っており[11]、この意味で、SP5は、SP6以下、特にSP8、10の前提ともなっています。

SP6 選定プロセス

【SPの内容】

AIモデル又はAIシステムを選定する際に、金融機関は、事業目的、業務上及び技術上のニーズ並びにAIユースケースの重要性及びリスクを考慮する。

【具体的な考慮事項】

• AI導入方式及びモデル・システムの選定：金融機関は、事業戦略との整合性並びに潜在的な便益及びリスクを踏まえ、AI導入の要否を判断する。導入する場合には、内部開発、サードパーティからの調達、オープンソース・オープンウェイトの利用又はこれらの組合せを選択するとともに、従来型AI、生成AI、エージェンティックAIなどから適切なモデル・システムを選定する。
• 選定における評価要素：金融機関は、ユースケースの重要性及びリスク、顧客への影響、利用目的・範囲、インフラ・技術・データ要件、専門人材を含む組織の準備状況、法令・規制要件並びに利用可能な資源・コストなどを考慮する。サードパーティを利用する場合には、依存関係、関連リスク及び利用条件も評価する。
• 性能・複雑性・説明可能性のトレードオフ：金融機関は、高性能なAIほど複雑性、計算負荷及びコストが高く、説明可能性・透明性が低い場合があることを考慮する。最も複雑なモデルが常に最適とは限らず、事業目的を満たす場合には、単純で低コストかつ説明可能性の高いモデルを選択することもできる。
• 総コスト及び選定プロセスの評価：金融機関は、AIモデル・システムの導入・運用に伴う財務・技術・人員等の総コストに加え、利用拡大に伴う費用増加並びにサードパーティとの事業継続・緊急時対応に要するコストを評価し、コスト効率の改善も検討する。選定には、AIの技術的能力や業界慣行に関する調査に加え、事業部門、統制機能及び専門家の意見を反映する。
• 選定後の変更管理：金融機関は、モデル・システムの選定後も、特に重要性又はリスクの高いユースケースについて、AIライフサイクル全体を通じて適切に文書化された変更管理プロセスを実施する。

【実務上のポイント】

SP6は、AIモデル・システムの選定（デューデリジェンスと呼ばれることもあります。）の際に考慮すべき事項を述べています。汎用モデルや汎用モデルを組み込んだアプリケーションを導入する場合、サードパーティが提供するAIモデル・システムを契約することが一般的であると思われ、この場合、サードパーティリスクが特に重要な考慮要素となると考えられます。

SP7 データガバナンス

【SPの内容】

金融機関は、AIの訓練、テスト及び使用にとって目的に適合した（すなわち、正確で、完全で、一貫性があり、信頼でき、安全な）データを維持するため、適切なデータガバナンスを確立する。

【具体的な考慮事項】

• AI固有のデータガバナンス上の課題：金融機関は、AIの開発・利用形態にかかわらず、データの質及び適切なガバナンスを確保する。特に、マルチモーダルデータ、非従来型データ、合成データ及び非構造化データの利用、データの大量・高速処理、越境移転に関する規制並びにデータがAIエージェントの挙動に及ぼす影響を考慮する。サードパーティのデータに直接アクセスできない場合には、提供者のデータ管理・品質統制の評価など、代替的又は補完的な措置を検討する。
• データガバナンス枠組みの整備：金融機関は、集中型、分散型又はハイブリッド型の枠組みを採用し、既存の枠組みも活用しながらAI固有の課題に対応する。具体的には、リスクアペタイトとの整合、アカウンタビリティ、職員研修、データ処理資源、分類・ラベル付け、アクセス統制、個人データ・機密データの保護及びデータ品質の評価を確保する。また、サードパーティAIへのプロンプトや内部文書の入力、検索拡張生成（RAG）による機微なデータへのアクセスについても適切な統制を設ける。
• データライフサイクル全体の管理：金融機関は、AIユースケースに必要なデータの利用可能性・品質・量・適合性を初期評価し、収集時には真正性及び出所を確認・記録する。その後、重要性・機微性・利用目的に基づく分類、集約・クレンジング・ラベル付けなどの準備、展開前の品質評価及び展開後のデータドリフト等のモニタリングを実施する。各段階の記録を通じてデータリネージを確保し、監査、品質改善及び問題の根本原因分析を支援する。
• エージェンティックAIに固有のデータ管理：金融機関は、AIエージェントによるデータの取得・解釈・記憶・再利用が挙動や出力に影響するリスクを管理する。特に、エージェントの目標・権限・ルールと、目標達成のためにアクセスするデータを厳格に分離する。また、オンプレミス、クラウド及び外部情報源に分散するデータについて、所在地や形式を問わず適切なアクセス統制、分類及び保存要件を適用し、無許可のアクセスや機微なデータの開示を防止する。

【実務上のポイント】

SP7は、AIの訓練、テスト及び使用のためのデータガバナンスを求めています。金融機関においては、既存のデータガバナンス枠組みが存在することも少なくないと考えられますが、この場合、データガバナンスにAIガバナンスに由来する一般的な要求事項を組み込み、かつ、個々のAIユースケースのリスク管理において、当該ユースケースにおけるデータ利用に関連するリスクを考慮する、という対応が（あくまで一例として）考えられます。
SP7は、AIの訓練、テスト、使用のそれぞれに言及していますが、AIのユースケースごとに、金融機関がコントロールしうる領域は異なることに留意する必要があります。例えば、従来型AIにおいては、当該金融機関の特定の業務のためにAIモデルを開発するケースが多いと思われ、この場合、出力に偏りが生じないよう、学習用データの品質が特に重要になります。これに対し、汎用モデルを用いたアプリケーションにおいては、金融機関は、サードパーティが当該金融機関の業務とは無関係に開発したモデルを導入することが一般的であり、また、汎用モデルの汎用的な性質ゆえに、従来型AIと同じ意味での偏りはそもそも生じにくいと考えられます。一方で、汎用モデルにおいては、汎用モデルが参照（SP5の言葉で言えば「使用」）するデータがモデルの出力に大きな影響を与えるため、むしろ当該参照データの品質管理が重要になると考えられます（なお、このような汎用モデルを前提としたデータガバナンスは、文書管理の現代化に近くなると考えられます。）。

SP8 説明可能性・透明性

【SPの内容】

金融機関は、様々な種類のAIの説明可能性の相違を理解する。適切かつ実現可能である場合、金融機関は、より説明可能なAIを採用し、又は補完的統制を検討する。金融機関は、様々なステークホルダーに合わせた適切な透明性も提供する。

【具体的な考慮事項】

• 説明可能性及び透明性の理解：説明可能性は、AIが入力から出力を生成する過程や判断要因を人間が理解できる程度を指し、透明性は、AIに関する適切な情報が関係者に提供される程度を指す。両者は相互補完的だが異なる概念であり、AIの行為や出力を記録・再現できても、その判断過程を説明できるとは限らない。
• 説明可能性の必要性の評価：金融機関は、AIの自律性、ユースケースの重要性及びリスクに応じて必要な説明可能性を判断し、パフォーマンスとのトレードオフを考慮する。不正検知では予測精度を優先できる場合がある一方、信用判断や保険引受けなど顧客への影響が大きい用途では、より高い説明可能性が求められ得る。性能に大きな差がない場合には、より説明可能なAIを選定することができる。
• 説明可能性を確保する手法の活用：金融機関は、AIの出力を事後的に分析する説明可能性の手法を、他のリスク管理措置と組み合わせて利用する。各手法には前提条件や限界があるため、単一の手法への過度な依存を避け、必要に応じて複数の手法を併用する。また、モデル全体の挙動を説明するグローバルな説明可能性と、個別の出力を説明するローカルな説明可能性を区別する。エージェンティックAIでは、中間的な判断、ツールの呼出し及び行為の記録も重要となる。
• 説明可能性に関する補完的統制：金融機関は、モデルの複雑性、情報へのアクセス制限又はサードパーティへの依存によって説明可能性が制約される場合、用途の制限、チャレンジャーモデルとの比較、感応度テスト・ストレステスト、データガバナンスの強化、検証・テスト及び人間による監督の強化などの補完的統制を検討する。これらの措置でもリスクを許容範囲内に抑えられない場合には、性能が劣っても、より説明可能なAI又はAI以外のシステムを検討する。
• ステークホルダーに応じた透明性の確保：金融機関は、取締役会、上級経営陣、リスク管理担当者、監査人、当局及び顧客などに対し、それぞれの専門性、責任及び情報ニーズに応じた情報を提供する。提供する情報としては、AIの利用目的、許可・禁止された用途、能力・限界、訓練データ及び開発プロセスなどが考えられ、ユースケースの重要性及びリスクに応じた透明性を確保する。
• 顧客及びエンドユーザーへの情報提供：金融機関は、AIが重要な役割を果たす金融商品・サービスについて、顧客がその性質及び限界を理解するために必要な情報を検討する。全てのAI利用を開示する必要があるとは限らないが、AIとの対話、顧客に影響する意思決定へのAIの関与、AIの限界並びに説明・異議申立て・救済を受ける権利などを通知することが考えられる。また、人間によるレビューや支援を求める手段の提供も検討できる。

【実務上のポイント】

SP8は、説明可能性と透明性という、2つの異なる項目を扱っています。説明可能性は、個々のAIモデルの技術的特性であり、リスクそれ自体というよりは、リスクに影響を与える要素と考えられます。透明性は、人間が（手動又は自動的な手段で）関係者に対して行う情報提供のことであり、非技術的な統制ないしリスク低減措置の一種と考えられます。
SP8は、説明可能性について、まず、様々なAIの説明可能性の違いを理解した上で、重要性・リスク等に応じて必要な説明可能性を判断し、それを達成するために、説明可能性を確保する手段又は補完的統制を採用することを求めています。従来、説明可能性の欠如は、それ自体がリスクとみなされることが多かったように思われますが、本報告書は、上記のとおり、説明可能性をあくまでリスクに影響を与える要素として扱い、リスクに応じた統制（補完的統制も許容されており、必ずしも直接に説明可能性を確保するものでなくともよいと考えられます。）を取ることを求めています。なお、エージェンティックAIについては、中間的な判断の記録が重要とされていますが、これは、（汎用）AIモデル自体が説明可能性を欠いているとしても、その出力は解釈可能であることを前提に、AIシステム全体で見れば説明可能となるような使い方をするという発想と言えます。
また、SP8は、透明性に関して、ステークホルダーが情報を必要とする程度に応じた情報提供を求めています。どの程度の透明性を確保すべきかは、説明可能性や人間による監督と並んで、実務上悩ましい論点であると考えられますが、まずは、ユースケースに関連するリスクとステークホルダーを特定した上で、各ステークホルダー（例えば、AI処理の影響を受ける者や、リスクを低減するために有効な行動を取りうる者が含まれます。）に対して、適切な行動を促したり、異議申立ての機会を保障するためにどのような情報提供が必要かを考え、それらに必要な情報を提供することを基本としつつ、ブランディングやマーケティングの観点から、追加的な情報提供を検討する、という実務が（あくまで一例としてですが）考えられます。

SP9 パフォーマンス管理

【SPの内容】

金融機関は、パフォーマンス評価、テスト及び継続的なモニタリングを通じたものを含め、AIユースケースのパフォーマンスを、その重要性及びリスクに比例して評価する。

【具体的な考慮事項】

• AIのパフォーマンス評価の方法及び基準：金融機関は、AIユースケースの目的、重要性、リスク、複雑性、過去の実績及び環境変化に応じて、パフォーマンス評価の頻度・強度・範囲・手法を設定し、特に重要性又はリスクの高いユースケースでは独立した評価を実施する。評価対象には、正確性、出力の不確実性、頑健性、安定性及びストレス状況下での性能などが含まれる。また、許容可能なパフォーマンスの閾値を可能な限り事前に設定し、継続的なモニタリングを通じて傾向を把握する。生成AIでは定性的評価や人間の判断が必要となる場合があり、エージェンティックAIでは目標の達成に加えて行為の適切性も評価する。
• 開発段階のテスト：金融機関は、AIの設計・開発段階で、意図された用途への適合性を検証し、モデルの調整・較正又は開発継続の必要性を判断する。特に、訓練データへの過学習、新たなデータへの汎化能力及び許容できないバイアスを評価する。バイアスについては、訓練データ、設計上の選択及び出力の利用方法を含めて確認するが、基礎データへのアクセス制限や説明可能性の不足によって検知が困難となる場合がある。
• 継続的なモニタリング及びテスト：金融機関は、ユースケースの重要性及びリスクに応じて、新たなデータによるテスト、パフォーマンス低下、データ・モデルドリフト、活動範囲の逸脱及び脆弱性の確認などを実施する。必要に応じて、ベンチマーキングやレッドチーミングを活用し、動的に更新されるAIではモニタリングを強化する。問題が検出された場合には、その重大性に応じて、追加テスト、監督の強化、利用制限、モデルの更新・再開発・廃止又は緊急時対応を実施する。補完的統制は、根本的な問題が解消されるまでの暫定措置となる場合がある。
• 生成AI及びエージェンティックAIに関する追加的な評価：金融機関は、生成AI及びエージェンティックAIについて、コンプライアンス、説明可能性、パフォーマンス、信頼性、レジリエンス及び安全性をライフサイクル全体で評価する。生成AIでは、プロンプトの微小な変更による出力の変動や正解データの欠如を踏まえ、分野の専門家を含む多面的な評価を行う。エージェンティックAIでは、最終結果に加え、中間的な意思決定、メモリへのアクセス、ツールの使用、他のシステムとの相互作用及び権限の遵守を監視・評価し、必要に応じて敵対的テストを実施する。評価結果は、エージェントの自律性を拡大するか否かの判断にも活用する。

【実務上のポイント】

SP9は、重要性・リスクに応じた開発段階のテストと、運用開始後の継続的なモニタリング・テストを求めています。実務上重要なのは、重要性・リスクに応じたモニタリング・テストが求められていることであり、類型的に重要性・リスクが低いユースケースや、厳格なモニタリングとともに導入したが、モニタリングの結果、リスクが低いと判断されたようなケースでは、簡素なモニタリングを行う／に移行することも考えられます。
なお、構成からも分かるとおり、SP9の考慮事項は、従来型モデルのモニタリング・テストについて述べた後に、生成AI・エージェンティックAIのモニタリング・テストについて述べていることに留意する必要があります。金融機関が汎用モデルを開発することは多くないと考えられますが、一方で、アプリケーションへの統合における選択の余地が大きくなるため、その点に関連するテストが必要になると考えられます[12]。

SP10 人間による監督

【SPの内容】

金融機関は、様々なAIユースケースの重要性、リスク、自律性、複雑性及び説明可能性に応じた、適切かつ効果的な人間による監督を実施する。

【具体的な考慮事項】

• 適切かつ実効的な人間による監督の設計：金融機関は、技術的に可能な限り、AIの出力、能力及び限界を職員が理解・評価し、必要に応じて介入できるようAIを設計・開発する。その際、自動化バイアスやAIへの過度の依存を防ぐため、監督の質を評価する指標やインセンティブを整備し、人間による介入・判断の記録及び分析をAIと監督プロセスの改善に活用する。また、監督者の有効性を評価し、サードパーティAIの調達時には、利用者及び提供者による人間の監督がどの程度確保されているかを確認する。
• 人間による監督形態の選択：金融機関は、AIユースケースの重要性、リスク、自律性、技術的実現可能性及び法令・規制要件などに応じて、適切な監督形態を選択・組み合わせる。具体的には、全てのAIの決定を人間が承認する「ヒューマン・イン・ザ・ループ」、AIを人間による監督の支援に利用する「AI・イン・ザ・ループ」、必要時に人間が介入する「ヒューマン・オン・ザ・ループ（HOL）」、自律性やガードレールを人間が管理する「ヒューマン・イン・コマンド（HIC）」がある。また、AIの停止・制限を可能にする「キルスイッチ」や、AIの判断に対する異議申立て・救済の仕組みも含まれる。
• AIライフサイクル全体における監督責任の明確化：金融機関は、AIの設計・開発・展開・運用などの各段階で監督責任を負う職員を特定・文書化し、それぞれの役割に応じた研修を実施する。展開後のモニタリングについては、客観性を確保するため、設計・開発に関与していない職員に責任を割り当てる。
• 生成AI及びエージェンティックAIに対する追加的な監督：金融機関は、生成AIについて、不適切・違法な出力への人間による介入、出力の定期的なレビュー・抜き取り検査及びジェイルブレイクテストなどを検討する。エージェンティックAIについては、目標の予期しない解釈やツール・権限の変更による挙動の変化を考慮し、人間による監督と、システム上で行為を制約する決定論的統制を組み合わせる。具体的な措置としては、禁止行為・アクセス権限の設定、重要な行為の事前承認、段階的な統制、異常行動の監視、レッドチーミング及び安全な停止・復旧の仕組みなどが考えられる。また、ユースケースごとのアカウンタビリティを明確にし、サードパーティとの責任分担も確認する。
• マルチエージェントシステムの監督：金融機関は、AIエージェントによるサブエージェントへのタスク委任や、異なる提供者のエージェント間の相互作用から生じる複雑性及びリスクを管理する。具体的には、エージェント間の不正行為・共謀のモニタリング、委任に関する一貫した決定論的統制、オーケストレーション層での監督、異なる提供者間で共通する監督枠組みの整備並びに展開前後の相互作用のテストを実施する。

【実務上のポイント】

SP10は、重要性・リスク等に応じた適切な形態の人間による監督を求め、ありうる人間による監督の形態として、HITL、HOL、HIC等を例示しています。これらの中で、HITLがとりわけ人口に膾炙しているように思われますが、あくまで選択肢の1つであり、実務上は、相対的にリスクが高い場面で検討すべき選択肢であると考えられます[13]。また、今後、汎用モデルを組み込んだアプリケーションが普及するに伴い、当該アプリケーション全体を通じた統制（システムプロンプト、ガードレール、AIの権限管理等が含まれますが、これらに限られません。）が重要になり、HICが重要になっていくと考えられます。

SP11 サイバーリスク・ICTリスクの管理

【SPの内容】

金融機関は、適切な場合には、AIのサイバーリスク及びICTリスクのシナリオをテスト及び演習に組み込み、関連する情報を共有し、サイバーリスク及びICTリスクの管理においてAIツールを使用することによるものを含め、AI関連のサイバーリスク及びICTリスクを管理する。

【具体的な考慮事項】

• AIリスクに対応したサイバーセキュリティ及びICTリスク管理の強化：金融機関は、既存の管理枠組みをAI固有の脅威に対応させる。シャドーAI対策、ネットワークのセグメント化、認証・アクセス管理、多層防御及びセキュア・バイ・デザインを推進するとともに、脆弱性への迅速かつ安全な対応、補完的統制、データの来歴及びモデルの挙動の監視・記録を強化する。
• AI関連のサイバーリスク及びICTリスクの把握・監視：金融機関は、既存のセキュリティ関連フレームワーク、脅威インテリジェンス、インシデント及び脆弱性情報などを活用し、AI関連の脅威、攻撃対象となるシステム・資産及び脆弱性を把握し、対策の優先順位を判断する。
• AIを活用したサイバーリスク及びICTリスク管理：金融機関は、AIによるファイアウォール、ディープフェイク・異常行動の検知、データ損失防止、脆弱性管理及び脅威分析を活用する。また、インシデント対応・フォレンジック調査の迅速化並びにAIエージェントによるコードレビュー、侵入テスト及びパッチ適用などの自動化を検討する。
• AI関連リスクを組み込んだテスト及び演習：金融機関は、特に重要性又はリスクの高いユースケースについて、AI関連のインシデントをシナリオテスト、脆弱性スキャン及び演習に組み込み、対応・復旧能力を評価する。レッドチーミングや管理された環境でのテストにより、プロンプトインジェクションなどへの耐性やAIエージェントの挙動を検証し、必要に応じて追加的な安全装置を設ける。
• 協働及び情報共有：金融機関は、情報共有・分析センター（ISAC）などを通じて、AI関連のインシデント、ニアミス、異常な挙動、脅威情報及び教訓を安全に共有し、脆弱性の特定・是正を迅速化する。
• エージェンティックAIに固有のセキュリティ統制：金融機関は、AIエージェントに必要最小限の権限を付与する「最小エージェンシー」を適用する。エージェントの登録、信頼評価、認証情報の検証、動的なアクセス管理及びゼロトラストの原則に基づく行為レベルの承認を実施し、重要な意思決定には人間の承認を組み合わせる。

【実務上のポイント】

SP11は、AIに関連するサイバー・ICTリスクを、これらのリスクの管理枠組みに統合することを求めています。サイバー・ICTリスクについては、ほとんどの金融機関において、別途管理枠組みが確立しており、当該管理枠組みの下で扱われており、本報告書の重要性は、他のSPほどには高くないと考えられます（実際、本報告書も、OWASP、MITRE、NIST等の文書を引用しています。）。

SP12 サードパーティAIリスク管理

【SPの内容】

金融機関は、パフォーマンス、透明性、データの質、サプライチェーン及び集中リスク並びに事業継続に焦点を当てて、サードパーティAIへの依存から生じるリスクを適切に管理する。

【具体的な考慮事項】

• 既存のサードパーティリスク管理枠組みの活用・強化：金融機関は、既存の管理枠組みをAI固有のリスクに対応させ、プロバイダーのデューデリジェンス、選定、継続的な監督並びに監査・情報取得権、データ管理、事業継続及び解約権に関する契約条件を整備する。また、既存サービスに組み込まれたAIへの依存も把握し、必要に応じて共同監査や契約条件の標準化を活用する。
• AIの透明性及び保証の確保：金融機関は、ユースケースの重要性・リスク及び外部AIへの依存度に応じて、プロバイダーから適切な情報・保証を取得する。契約では、データの取扱い、利用条件、訓練方法、技術的依存関係、重大な変更の通知及びサービス・モデルの不具合等に関する責任を明確にする。モデルカードやISO/IEC 42001なども活用するが、継続的な監督の代替とはせず、必要に応じて追加的な情報取得や金融セクター固有の保証手段を検討する。
• 情報・保証が不十分な場合の補完的統制：金融機関は、十分な情報・保証を得られない場合、追加テスト、低リスク用途への利用制限、監視の強化、人間による監督・承認及び契約上の保証・補償などを活用する。残存リスクをリスクアペタイトの範囲内に抑えられない場合は、利用を見送る。
• AIサプライチェーン全体の集中リスク管理：金融機関は、グループ全体のサードパーティAIへの依存及び集中リスクを把握し、比例性を踏まえてサプライチェーン全体を監視する。クラウド・計算資源、データ、エネルギー、基盤モデル、専門的AIサービス及びハードウェアへの直接・間接的な依存が自社サービスに及ぼす影響を評価する。
• 事業継続、出口戦略及びインシデント管理：金融機関は、重要性又はリスクの高いユースケースについて、集中リスクや再委託先への依存を事業継続計画及び出口戦略に反映する。AIの誤動作・不正行為、クラウド障害、モデルの劣化及びサービス終了などを想定して継続・復旧能力を評価し、共同演習やモデル・サービスの変更監視を通じて、パフォーマンス、データ品質及び透明性の低下などに対応する。

【実務上のポイント】

SP12は、AIに関連するサードパーティリスクを、当該リスクの管理枠組みに統合することを求めています。サードパーティリスクの文脈では、近年、クラウドサービスへの依存が問題とされてきましたが、汎用モデルの普及に伴い、それらの問題がそのままAIの問題（の一つ）となりつつあります。サードパーティリスクの問題自体が未解決であるため、困難な問題ですが、実務上は、FSBのサードパーティリスクに関する報告書[14]やEUのDORA・その委任規則等[15]を参考にしつつ、各社で判断せざるを得ないと考えられます。

---

[1] FSB「Sound Practices for Responsible Adoption of Artificial Intelligence (AI): Final report」（2026年10月）。
[2] ここでいう金融システムとは、金融仲介機関、金融市場、金融商品、それらの活動を支えるインフラ等からなる仕組み全体を指し、金融活動に使用される情報処理システム（金融情報システム）とは区別されます。
[3] 過去のものとして、FSB「The Financial Stability Implications of Artificial Intelligence」（2024年11月）、FSB「Monitoring Adoption of Artificial Intelligence and Related Vulnerabilities in the Financial Sector」（2025年10月）。
[4] Explainability。AIが入力から出力を生成する過程や判断要因を人間が理解できる程度を指します。責任の所在（の明確化）及び／又は遵守の証明を意味するアカウンタビリティや、次の注で述べる透明性とは区別されます。
[5] Transparency。AIに関する適切な情報が関係者に提供される程度を指します。
[6] Human oversight。AIの開発、提供及び利用において、人間の尊厳、基本的権利、自由、ウェルビーイング、自律性を重視する考え方を意味する人間中心（human-centric）とは区別されます。
[7] 例えば、証券監督者国際機構（IOSCO）「Supervisory Toolkit for AI Use in Capital Markets」（2026年6月）25頁では、投資助言及び適合性に関する問題への言及があります。ただし、現時点では潜在的な問題であることもあり、FSB報告書ほど具体的な記載ではありません。
[8] なお、本報告書第1部は、作成時点における既存文書のリサーチに基づいており、必ずしも最新の状況とは限らないことに留意する必要があります。
[9] ESMA「ESMA TRV Risk Analysis: AI adoption and trends in securities markets: EU evidence」（2026年2月）。
[10] FINRA「2026 FINRA Annual Regulatory Oversight Report」（2025年12月）。
[11] 本報告書は、リスク評価の具体的な手法については詳述していませんが、この点については、例えば、本報告書も引用している米国立標準技術研究所（NIST）「Artificial Intelligence Risk Management Framework (AI RMF 1.0)」（2023年6月）を参考にすることが考えられます。
[12] EU AI法のハイリスクAI規制に影響を受けた従来のAIガバナンスに関する文書では、開発者―提供者―利用者の区別が前提とされることが多かったのですが、モデルとアプリケーションが分離する（少なくとも、両者の結びつきが希薄となる）汎用モデルにおいては、個々のAIユースケースにおける影響力と責任は（従来でいう）利用者寄りにシフトすると考えられます。
[13] 既に2019年のEUのハイレベル専門家グループの倫理指針において、「HITLとは、システムの各意思決定サイクルに人間が介入できることを指すが、これは多くの場合、実現可能でも望ましいものでもない。」とされていました（High-level expert group on artificial intelligence「Ethics guidelines for trustworthy AI」16頁）。
[14] FSB「Enhancing Third-Party Risk Management and Oversight: A toolkit for financial institutions and financial authorities」（2023年4月）。
[15] 具体的には、DORA 28条〜30条、ICTサードパーティポリシーに関する委任規則（EU）2024/1773、重要機能を支えるICTサービスの再委託に関する委任規則（EU）2025/532。