Blog

ブログ

「AI事業者ガイドライン案」をガイドする～2024年・生成AIに関する日本における状況～

2024.01.24

#AI/IoT / #データ（保護法制、取引） / #システム・ソフトウェア開発 / #個人情報 / #知的財産 / #著作権 / #リスクマネジメント

はじめに

2023年12月21日、内閣府AI戦略会議（第7回）において、AI事業者ガイドライン案が提出された。その後の調整を経て、2024年1月19日に総務省・経済産業省名義で正式に公表されたAI事業者ガイドライン案（以下「本ガイドライン」という）について、同年1月20日より意見募集手続（パブリックコメント）が開始されている。本ガイドラインは、策定までに膨大な議論が積み重ねられており、経緯も複雑であるため、一読しただけではその内容と構成を理解し難いといえよう。そこで、本稿においては、本ガイドラインの策定経緯、概観、及び今後の動向等について、簡潔に整理したい。

＊＊＊＊＊＊＊
AI事業者ガイドライン案（2024年1月、総務省・経済産業省）
・本編
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240119_1.pdf
・別添（付属資料）
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240119_2.pdf
＊＊＊＊＊＊＊

経緯

2022年11月のChatGPT3.5プロトタイプの公開をはじめ、昨年は「生成AI（Generative AI）」なる言葉が一般化し、生成AIを巡る議論が世界中を席巻したことは記憶に新しい。
日本では、それまでも「人間中心のAI社会原則会議」等を起点にAI一般に関する議論は行われていたものの、2023年５月のG7広島サミットにおいて、急速な発展と普及が国際社会全体の重要な課題とされる生成AIに焦点をあてるため、国際的な議論の枠組みとして「広島AIプロセス」が立ち上げられた。これを契機に、内閣府にAI戦略会議及びAI戦略チーム（関係省庁連携）が設置され、日本国内においても生成AIについて集中的な議論が進められている。
その議論の過程において、2019年3月に策定された「人間中心のAI社会原則」を引き続き土台としながらも、これまで総務省や経済産業省等が個別に作成してきた複数のAI関連ガイドラインを統合し、ここに生成AIに関する議論を付加することとされた。本ガイドラインは、このような検討の成果として取りまとめられたものである。なお、本稿執筆時点においては、日本では以下のような政府文書が公表されている。

・AIに関する暫定的な論点整理（2023年5月26日、AI戦略会議）
https://www8.cao.go.jp/cstp/ai/ronten_honbun.pdf
・生成AIサービスの利用に関する注意喚起等（2023年６月２日、個人情報保護委員会）
https://www.ppc.go.jp/files/pdf/230602_kouhou_houdou.pdf
・初等中等教育段階における生成AIの利用に関する暫定的なガイドライン（2023年７月４日、文部科学省初等中等教育局）
https://www.mext.go.jp/content/20230718-mtx_syoto02-000031167_011.pdf
・AIと著作権に関する考え方について（素案）令和６年１月15日時点版（溶け込み）（2024年１月15日、第6回文化審議会著作権分科会法制度小委員会）
https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/hoseido/r05_06/pdf/93988501_01.pdf

また、AIを巡る環境は国や分野を超えて日進月歩の進化を続けていることから、AIを活用する事業者は、国際的な動向にも注意を払うことが重要である。日本政府も、こうした現状を踏まえ、前記の広島AIプロセスを通じ、AIに関する国際的な共通理解、指針の策定を主導すべく、2023年12月には広島AIプロセス包括的政策枠組みなどをとりまとめている。

・広島AIプロセス G7デジタル・技術閣僚声明（仮訳）（2023年12月1日）
https://www.soumu.go.jp/hiroshimaaiprocess/pdf/document02.pdf

本ガイドラインも、同プロセスへの貢献を意図するとともに、同プロセスを含む国際的な議論を踏まえながら検討したと位置づけられている。

スクリーンショット①(出典_総務省・経済産業省「AI事業者ガイドライン案」本編3頁).png

（出典：総務省・経済産業省「AI事業者ガイドライン案」本編 3頁）

AI事業者ガイドライン案の概観

１．AI事業者ガイドライン案の構造

（１）本編と別添（付属資料）

本ガイドラインは、全190頁のうち、1頁～36頁を本編、その余は別添資料という構造となっており、本編においては一般論、別添（付属資料）においては具体例や本編の詳細な解説がなされている（本ガイドラインでは、「基本理念」・「指針」及び「実践」と整理している。）。本ガイドラインの基本的な考え方を理解したい場合は、本編の各記載を把握することをお勧めする。　

＊＊＊＊＊＊＊
・AI事業者ガイドライン案（本編）：全36頁
　→一般論
・AI事業者ガイドライン案別添（付属資料）：全154頁
　→具体例
＊＊＊＊＊＊＊

２．本編の内容

（１）構成

本ガイドラインの本編の構成は、以下のとおりである。

＊＊＊＊＊＊＊
はじめに
第１部 AIとは
第２部 AIにより目指すべき社会と各主体が取り組む事項
A. 基本理念
　 B. 原則
C. 共通の指針
D. 高度なAIシステムに関係する事業者に共通の指針
E. AIガバナンスの構築
第３部 AI開発者に関する事項
第４部 AI提供者に関する事項
第５部 AI利用者に関する事項
＊＊＊＊＊＊＊

本ガイドラインは、AIの開発・提供・利用の各場面において必要な取組についての基本的な考え方を示し、AIに関連する事業者を大きく「開発者（D／Developer）」「提供者（P／Provider）」「利用者（U／Business User）」に分類している。本ガイドライン本編の第１部及び第２部については、事業者の類型を問わない指針が定められ、第３部から第５部までについては、事業者の類型ごとに適用される事項が定められている。

（２）本編各部について

ア．第１部（AIとは）

第１部においては、AIに関連する用語について改めて整理がなされている。ここでは、「AI」や「AIシステム」について比較的広く定義されていること、「生成AI」や「高度なAIシステム」の定義がポイントとなる。なお、「高度なAIシステム」には生成AIシステムが含まれることから、生成AIに関して後記第２部のD（「高度なAIシステムに関係する事業者に共通の指針」）が適用されることに留意が必要である。

・「生成AI」：文章や画像、プログラム等を生成できるAIモデルに基づくAIの総称
・「高度なAIシステム」：最先端の基盤モデル及び生成AIシステムを含む、最も高度なAIシステム

イ．第２部（AIにより目指すべき社会と各主体が取り組む事項）

第２部のAからEまでの各項目については、以下のように整理すると理解しやすい。

＊＊＊＊＊＊＊
・A. 基本理念
・B. 原則＋C. 共通の指針 .
　（D. 指針は、生成AIを含む「高度なAIシステム」の場合に限って適用）
　→「A.基本理念」実現のための具体的指針
・E. AIガバナンスの構築
　→Ｂ、Ｃ（D）を実践する際の社内体制構築（「アジャイル・ガバナンス」の重要性）
＊＊＊＊＊＊＊

・「A. 基本理念」
「A. 基本理念」においては、「人間中心の原則」及びこれまでのガイドラインなどに定められた理念を再度整理したものであり、その要素は以下のとおりである。

スクリーンショット②(出典_総務省・経済産業省「AI事業者ガイドライン案」本編12頁).png

（出典：総務省・経済産業省「AI事業者ガイドライン案」本編 12頁）

・「B. 原則」・「C. 共通の指針」
「B. 原則」・「C. 共通の指針」では、「A. 基本理念」を実現する具体的施策として「各主体が取り組む事項」と「社会と連携して取組が期待される事項」に分類し、以下の事項を定めている。

【各主体が取り組む事項】
1) 人間中心
①人間の尊厳と個人の自律 ②AIによる意思決定・感情の操作等への留意
③偽情報等への対策 ④多様性・包摂性の確保 ⑤利用者支援 ⑥持続可能性の確保
2) 安全性
①人間の生命・心身・財産、及び環境への配慮 ②適正利用 ③適正学習
3) 公平性
①AIモデルの各構成技術に含まれるバイアスへの配慮 ②人間の判断の介在
4) プライバシー保護
①AIシステム・サービス全般におけるプライバシーの保護
5)セキュリティ確保
①AIシステム・サービスに影響するセキュリティ対策 ②最新動向への留意
6) 透明性
①検証可能性の確保 ②関連するステークホルダーへの情報提供
③合理的かつ誠実な対応
④関連するステークホルダーへの説明可能性・解釈可能性の向上
7) アカウンタビリィ
①トレーサビリティの向上 ②共通の指針の対応状況の説明 ③責任者の明示
④関係者間の責任の分配 ⑤ステークホルダーへの具体的な対応 ⑥文書化

【社会と連携した取組が期待される事項】
8) 教育・リテラシー
①AIリテラシーの確保 ②教育・リスキリング ③ステークホルダーへのフォローアップ
9) 公正競争確保
10) イノベーション
①オープンイノベーション等の推進 ②相互接続性・相互運用性への留意 ③適切な情報提供

「B. 原則」・「C. 共通の指針」のうち、【各主体が取り組む事項】については、次のように整理できる。まず、「1) 人間中心」の内容については、「A. 基本理念」をより具体化した内容であり、第２部全体の目的と位置付けられる。そして、本ガイドラインは、このような「1) 人間中心」を達成するためのリスクとして、人間の生命・心身・財産・環境への危害（「2) 安全性」）、偏見や差別（「3) 公平性」）、プライバシー（「4) プライバシー保護」）などを想定している。このようなリスクを排除するための環境整備として、外部的操作等に対するセキュリティ（「5)セキュリティ確保」）、ステークホルダーへの適切な情報提供（「6) 透明性」）、AIに関する責任を負う前提条件の整備（「7)アカウンタビリティ」*1）を提案している。
一方、【社会と連携した取組が期待される事項】については、政府や自治体、各関係団体の連携が期待される事項であり、民間事業者が個別に対応することは容易ではないといえよう。前記のリスク排除による「1) 人間中心」の実現のほか、よりAIによって得られる便益を適切に増大させることが目指されている。

・「D. 高度なAIシステムに関係する事業者に共通の指針」
「D. 高度なAIシステムに関係する事業者に共通の指針」については、生成AIを含む高度なAIシステムの開発者・提供者・利用者に関する事項であるものの、全12項目のうち11項目は開発者に適用される事項である。その内容は、端的にいえばいずれも共通の指針の各項目をより拡大し、充実させたものである。

・「E. AIガバナンスの構築」
本ガイドラインにおいては、AIガバナンスの構築として、特に「アジャイル・ガバナンス」の重要性が強調されている。すなわち、各事業者において、第2部に定める「共通の指針」や第３部以下に定める事業者類型ごとの留意事項を踏まえたルールや手続きを設定すれば足りるものではなく、AI領域の目まぐるしい変化を前提に、そのガバナンス構築にあたって内部及び外部における環境変化に伴い、設定したルールや手続きを柔軟に見直す体制が求められている。
さらに、本ガイドラインは、効果的な取組を実現するために経営層の責任とそのリーダーシップの発揮が重要であると指摘し、事業者がそれぞれの組織体制に合わせてAIと向き合うことを期待している。経営層によるAIガバナンスの構築とモニタリングの詳細については、別添（付属資料）20頁から61頁にて、行動目標とともに具体的な実践例が掲載されている。併せて、AIガバナンスを推進している事業者として4社の取組が紹介されており、実際の実践例として参照できる（別添（付属資料）62頁以下）。

ウ．第３部～第５部（事業者類型ごとの留意事項）

第３部から第５部においては、第２部に定める共通の指針に加え、事業者類型ごと（開発者・提供者・利用者）に留意すべき事項が言及されている。いずれも、共通の指針を事業者ごとに具体化したものであり、特に開発者に対して細かく慎重な配慮が求められている。
概要は以下の表を、詳細については本ガイドライン・本編27頁以下、別添（付属資料）70頁以下を参照されたい。

スクリーンショット③(出典_総務省・経済産業省「AI事業者ガイドライン案」本編22頁)_page-0001.jpg

（出典：総務省・経済産業省「AI事業者ガイドライン案」本編 22頁）

３．別添（付属資料）の内容

本ガイドライン・別添（付属資料）においては、本編と対応した詳細な解説や具体例（参考となる実践や具体的な取組）について、154頁にわたって記載されているほか、事業者ごとのガイドラインに準拠したチェックリスト案も添付される予定である。これらの資料を用いれば、事業者ごとに、自らに適用される項目やその詳細を参照することができるように構成されている。

国外の動きと今後の動向

生成AIを巡る各国の政府対応は、それぞれ異なる動きを見せている。
中国では早々にも、2023年7月10日に「生成AIサービス管理暫定弁法」が制定され、同年8月15日をもって施行された。また、AIが生成した画像の著作権侵害に関する裁判例にも注目されている*2。
EUにおいては、欧州委員会・欧州議会・EU理事会が策定・修正・公表していた欧州AI規則案が、ChatGPT3.5の公表と普及を受けて見直されるに至り、2022年11月30日から生成AIも対象とした修正・審議が行われ、2023年12月9日にEU理事会（閣僚理事会）と欧州議会より暫定的な政治合意がなされた旨が発表されている*3。
米国では、ホワイトハウスにおいてAI開発企業等7社（Amazon、Anthropic、Google、Inflection、Meta、Microsoft及びOpenAI）がAI製品の安全性、セキュリティ、透明性の確保等を内容とする「自発的誓約」（Voluntary Commitments）の合意を行い（2023年7月21日。なお、その後9月にはAdobe、Cohere、IBM、Nvidia、Palantir、Salesforce、Scale AI、Stabilityの8社との間で同様の取組に向けて合意されたことが発表された*4。）、また、2023年10月30日、「安全、セキュアかつ信頼性のあるAIの開発及び使用に関する大統領令」が発出されたほか*5、生成AIサービスを巡る複数の訴訟が係属しており、動向が注目される。
日本では、2024年1月20日（土）から2月19日（月）にかけて本ガイドラインに関する意見募集手続（パブリックコメント）が実施され、３月にガイドラインの内容が確定する見通しである*6。本ガイドラインを含む政府見解については、裁判規範としての法律効果はないものの、ビジネス環境の目まぐるしい変化のなかで、各事業者にとって事実上の行為規範として作用するものと思われる。
また、生成AIに関する米国等の海外裁判所による判決動向については、今後の日本国内の司法判断に影響を与える可能性が高いため、併せて注視する必要がある。