はじめに

近年、中国政府はAI技術の研究開発を重視し、デジタル経済の発展を推進しています。2017年7月、中国国務院は「新一代人工知能発展計画」[1]を発表し、AIを国家戦略技術として位置付けました。同計画は2025年までに中国のAIの基礎理論において重大なブレークスルーを実現し、一部の技術とその応用を世界トップレベルに到達させ、2030年までに、中国はAIの理論、技術、応用において世界をリードすることを目指しています。

また、百度（Baidu）、アリババ（Alibaba）、テンセント（Tencent）、ByteDanceといった大手テック企業がAI開発を積極的に進め、生成AIや自然言語処理技術の分野で国際競争力を高めており、特に、2023年以降、中国独自の大規模言語モデル（LLM）の開発が加速し、商業化が進んでいます。

その中でも、Deepseek（深度探索）は中国発の大規模言語モデルとして注目を集めています。Deepseekは、中国市場向けに最適化されたAIモデルを提供し、検索エンジン、カスタマーサポート、文書生成、コンテンツ配信など幅広い分野に影響を与えると思われる一方、生成AIの利用拡大に伴い、偽情報の拡散、データプライバシー問題、アルゴリズムの透明性に関する懸念も高まっています。これを受けて、中国政府はAIの適正な利用を促進し、安全性を確保するための規制を強化する方針を示しています。

中国では、生成AIサービスに関する主な規制として、「生成AIサービス管理暫定弁法[2]」（以下「本弁法」といいます。）が2023年8月15日より施行されています。

以下では、主に本弁法に基づく生成AIに関する規制の概要についてご説明いたします。

 

規制対象サービス

本弁法は、「生成AIサービス」を規制対象としており、「生成AIサービス」について、「生成AI技術を利用してテキスト、画像、音声、動画等のコンテンツを生成するサービス」と定義しています[3]。

「生成AI技術」とは、テキスト、画像、音声、動画等のコンテンツを生成する能力のあるモデル及び関連技術を意味します[4]。この広い定義により、GPT-4やDeepseekのようなAIモデル以外にも、AIのアルゴリズムやAIに適用する処理ルールに関する技術も「生成AI技術」に含まれ得ると考えられます。

なお、生成合成型アルゴリズムを利用するディープシンセシス技術については、生成AI分野における重要性に鑑みて、本弁法の制定に先立ち、ディープシンセシス技術及びディープシンセシスサービスの提供に関するインターネット情報サービスディープシンセシス管理規定[5]（以下「ディープシンセシス管理規定」といいます。）が制定されています。

ディープシンセシス技術とは、ディープラーニング、バーチャルリアリティ等の生成合成型アルゴリズムを利用し、テキスト、画像、音声、映像、バーチャルシーン等の情報コンテンツを作成する技術を指し、具体的には以下の技術を含むとされています[6]。

• 文章作成、テキストスタイル変換、問答対話等のテキストコンテンツを生成又は編集する技術
• テキストから音声への変換、音声変換、音声属性編集等の音声コンテンツを生成又は編集する技術
• 音楽生成、シーンサウンド編集等の非言語音コンテンツを生成又は編集する技術
• 顔生成、顔の置き換え、人物属性の編集、顔の操作、姿勢の操作等の画像、ビデオコンテンツ中の生体的特徴を生成又は編集する技術
• 画像生成、画像強調、画像復元等の画像やビデオコンテンツにおける非生体的特徴を生成又は編集する技術
• 三次元再構築、デジタルシミュレーション等のデジタル人物、バーチャルシーンを生成又は編集する技術

 

適用範囲

本弁法は、中国国内の公衆[7]に対して生成AIサービスを提供する場合に適用されます[8]。生成AIサービスの提供者を対象とする義務が中心であるものの、一部、生成AIサービスの利用者に適用される義務も存在します。

生成AIサービスの提供者とは、生成AI技術を利用して生成AIサービスを提供する（プログラム可能なインターフェース等の提供により生成AIサービスを提供することを含む）組織、個人を指すとされており[9]、特に中国国内のサービス提供者に限定されていません。そのため、中国国内の企業のみならず、中国国外の企業であっても、中国国内の不特定多数のユーザー（個人及び組織を含む）に対して生成AIの製品やサービスを提供する場合には、本弁法の適用を受けることになると考えられます。

一方で、業界組織、企業、教育・科学研究機関、公共文化機関又は関連の専門機関等については、生成AI技術の研究開発、応用を行っているものの、中国国内の公衆に対して生成AIサービスを提供していないという場合には、本弁法の規制対象外となっています[10]。

また、生成AIサービスの利用者とは、生成AIサービスを利用してコンテンツを生成する組織や個人をいいます[11]。

 

生成AIサービスの提供及び使用に関する原則

生成AIサービスの提供者及び利用者は、生成AIサービスを提供、使用するにあたっては、法律・行政法規を遵守し、社会道徳・倫理を尊重し、かつ、以下の原則に従うことが求められています[12]。

1. 社会主義の核心的価値観を堅持するものとし、国家政権や社会主義制度の転覆を惹起し、煽動し、国家の安全及び利益に危害を与え、国家イメージを損ない、国の分裂を煽動し、国の統一及び社会の安定を破壊し、テロ・過激主義を宣伝し、民族憎悪、民族差別、暴力、猥褻・色情及び虚偽で有害な情報等の法律・行政法規で禁止されているコンテンツを生成してはならないこと。
2. アルゴリズムの設計、トレーニングデータの選択、モデルの生成及び最適化、サービス提供等の過程において、民族、信仰、国別、地域、性別、年齢、職業、健康等の差別を防止するための有効な措置を講じなければならないこと。
3. 知的財産権、商業道徳を尊重し、営業秘密を保護するものとし、アルゴリズム、データ、プラットフォーム等の優位性を利用して独占及び不正競争行為を実施してはならないこと。
4. 他人の合法的権益を尊重するものとし、他人の心身の健康に危害を与え、又は他人の肖像権、名誉権、栄誉権、プライバシー権及び個人情報に係る権益を侵害してはならないこと。
5. サービス類型の特性に基づき、生成AIサービスの透明性を向上させ、生成コンテンツの正確性と信頼性を向上させるための有効な措置を講じなければならない。

 

サービス提供者の主な義務

本弁法上、生成AIサービスの提供者は、主に以下の義務を負います。

（1）トレーニングに関する義務
サービス提供者は、以下の規定に従い、事前トレーニング、最適化トレーニングなどのトレーニングデータ処理活動を行わなければなりません[13]。

1. 出所が合法的なデータ及び基礎モデルを使用すること
2. 他人の知的財産権を侵害してはならないこと
3. 個人の同意を取得し、又は、その他法律、行政法規に定める事項に適合すること
4. トレーニングデータの品質を向上させ、トレーニングデータの真実性、正確性、客観性、多様性を強化するための有効な措置を講じること
5. 「サイバーセキュリティ法[14]」、「データセキュリティ法[15]」、「個人情報保護法[16]」等の法律、行政法規及び関連主管当局の監督要求を従うこと

（2）データラベリングに関する義務
サービス提供者は、生成AI技術の研究開発においてデータのラベリング[17]を行う場合、以下の事項を遵守する必要があります[18]。

1. 本弁法の要求を満たす明確、具体的かつ運用可能なラベリングのルールを定めること
2. データラベリングの品質評価及びラベル付けされたコンテンツの正確性に関するサンプル検証を実施すること
3. ラベリングを行う人員に対して必要な研修を行い、当該人員によるラベリングの実施を監督指導すること

（3）データセキュリティ及び個人情報の保護義務
サービス提供者は、情報コンテンツ生産者としての責任を負い、情報コンテンツのセキュリティ保護義務を履行し、個人情報を取り扱う場合、法令に従い個人情報取扱者としての責任を負い、個人情報保護義務を履行しなければなりません[19]。

また、サービス提供者は、サービス利用者の入力情報及び利用記録について保護義務を履行しなければならず、以下の行為をしてはなりません[20]。

1. 不必要な個人情報の収集
2. 利用者を特定できる入力情報及び利用記録を不法に保存すること
3. 他人に対して利用者の入力情報及び利用記録を不法に提供すること

（4）利用者との契約締結義務
サービス提供者は、生成AIサービスの利用者との間で契約を締結し、双方の権利義務を明確にすることが求められています[21]。

（5）未成年者保護義務
サービス提供者は、そのAIサービスの対象者、利用場面及び用途を明確にして公開し、利用者が生成AI技術を科学的かつ合理的に理解、利用するよう指導するとともに、未成年[22]の利用者が生成AIサービスに過度に依存し又は夢中になることを防ぐために有効な措置を講じる必要があります[23]。

（6）生成コンテンツの表示義務等
本弁法では、生成AIサービス提供者に対して画像、動画等の生成コンテンツに標識を埋め込み、生成コンテンツである旨を表示することが原則として義務づけられています[24]。具体的なコンテンツの表示に関する規定は、ディープシンセシス管理規定及び2025年3月7日に公布されたAI生成コンテンツ標識弁法（以下「コンテンツ標識弁法」といいます。）[25]に定められています。

コンテンツ標識弁法上、生成コンテンツに埋め込まれる標識は、暗黙的な標識及び明示的な標識に分けられています[26]。暗黙的な標識とは、生成コンテンツのデータファイル内に技術的手段で埋め込まれた、ユーザーに明確に認識されにくい識別情報をいいます。他方で、明示的な標識とは、生成コンテンツやインターフェース上において、文字・音声・画像等の形式で、ユーザーが明確に認識できるように表示される識別情報をいいます。

サービス提供者は、原則として、その種類を問わず、すべての生成コンテンツのファイルのメタデータに、暗黙的な標識を埋め込み、生成コンテンツの属性情報、サービス提供者の名称又は識別コード、及びコンテンツ識別番号等の作成要素情報を記録しなければなりません[27]。

また、サービス提供者は、誤認や混乱を招くおそれがある一定の類型のサービスを提供する場合には、明示的な標識を埋め込むことにより、生成コンテンツである旨の表示を行うことも義務付けられています。具体的には、チャットボット等の自然人を模したテキスト生成・編集サービス、声の合成や模倣等の音声生成・編集サービス、又は没入型のリアルシーン等の生成・編集サービス等を提供する場合に、生成コンテンツの適切な位置に目立つ方法で、生成コンテンツであることを表示しなければならないとされています[28]。なお、テキスト又は音声のコンテンツについては、生成コンテンツ内ではなく、対話型インターフェースにおいて生成コンテンツである旨を表示する方法も認められています[29]。

生成コンテンツに関する具体的な表示方法については、コンテンツ標識弁法第4条及び2023年8月25日に公表された「ネットワークセキュリティ基準実践指南――生成AIサービス内容表示方法[30]」を参照することができます。

なお、サービス提供者は、サービス利用契約等において、生成コンテンツの表示方法、標識の様式等を説明するとともに、ユーザーに対して、標識に関するルールをよく読んで理解するよう促さなければなりません[31]。また、ユーザーが明示的な標識が埋め込まれていない生成コンテンツの提供を要求した場合、サービス提供者は、サービス利用契約等においてコンテンツに関するユーザーの表示義務と使用責任を明記した場合に限って当該生成コンテンツを提供することができ、かつ、提供に関するログを少なくとも6ヶ月間保存することが義務付けられています[32]。

（7）違法事項の対応義務
サービス提供者は、違法コンテンツを発見した場合、速やかに生成停止、送信停止、削除等の対応措置を講じ、モデルの最適化トレーニング等の措置を講じて是正を行い、関連主管部門（ネットワーク情報管理部門や公安部門等）に報告し、また、利用者が生成AIサービスを利用して違法行為を行ったことを発見した場合、警告、機能制限、サービス提供の停止や終了等の対応措置を講じ、関連記録を保存したうえで関連主管部門に報告しなければなりません[33]。

（8）苦情・通報メカニズムの構築義務

サービス提供者は、苦情・通報メカニズムを構築し、苦情・通報の窓口を設置し、苦情・通報に関する対応手続及び対応期限を公表し、適時に苦情・通報の処理及び処理結果のフィードバックを行うことが要求されています[34]。

 

生成AIサービスに関するセキュリティ評価及び届出制度

本弁法上、世論形成的な性質又は社会動員能力を有する生成AIサービスを提供する場合は、セキュリティ評価及び「インターネット情報サービスアルゴリズム推奨管理規定[35]」（以下「アルゴリズム推奨管理規定」といいます。）に基づく届出手続きを行わなければならないとされています[36]。セキュリティ評価及び届出制度の詳細は、以下のとおりです。

（1）セキュリティ評価
中国では、サイバーセキュリティ法及びその他の関連法令に基づきインターネット上の情報配信やサービス提供を厳格に管理しており、2018年11月に「世論形成的な性質又は社会動員能力を有するインターネット情報サービスのセキュリティ評価規定[37]」（以下「セキュリティ評価規定」という。）が公表され、同規定により、世論形成的な性質又は社会動員能力を具備する以下のネットワーク情報サービスを提供する者には、自らセキュリティ評価を行うことが義務付けられています[38]。

• 掲示板、ブログ、マイクロブログ、チャットルーム、インスタントメッセージサービスのグループチャット、オフィシャルアカウント、ショートビデオ、ライブ配信、情報共有、ミニプログラム等の情報サービス又は相応の付加機能
• 公衆に世論を発表する手段を提供し、又は公衆が特定の活動を行うよう促す能力を備えるその他のインターネット情報サービス

そのため、生成AIサービスのみならず、インターネットで上記の世論形成的な性質又は社会動員能力を有するサービスを提供する場合には、セキュリティ評価の対象になります。

また、サービス提供者は、全国インターネットセキュリティ管理サービスプラットフォーム[39]においてネットワーク情報管理部門及び公安部門にセキュリティ評価報告書を提出し、その審査を受ける必要があります[40]。

（2）届出
本弁法上、生成AIサービスの届出手続はアルゴリズム推奨管理規定に基づき行うものとされていますが、アルゴリズム推奨管理規定では、アルゴリズムに関する届出手続しか規定されていないため[41]、法令の条文上、世論形成的な性質又は社会動員能力を有する生成AIサービスの場合は、それに使われているアルゴリズムについて届出を行えば足りるような建付けなっています。

一方で、国家インターネット情報弁公室の通知[42]においては、世論形成的な性質又は社会動員能力を有する生成AIサービスの提供者は、本弁法に基づき別途届出又は登録手続を実施することが求められます。具体的には、大規模モデルを使用する生成AIサービスについては国家インターネット情報弁公室で届出を行い、既に届出が行われているモデルの機能をAPI又はその他の方法を通じて直接使用して生成AIサービス提供する場合は、地方のインターネット情報部門で登録手続を実施することが求められています[43]。なお、2025年1月時点、届出が行われている生成AIサービス又は製品は302件、登録が行われている生成AIサービス又は製品は105件となっています。

したがって、中国では、実務上、世論形成的な性質又は社会動員能力を有する生成AIサービスについて、インターネット情報部門で届出又は登録手続を行い、かつ、世論形成的な性質又は社会動員能力を有する生成AIサービスのアルゴリズムについても、専用のシステム[44]で届出を行うことが必要になっています。

 

罰則

生成AIサービスを提供するにあたって本弁法の規定に違反した場合は、サイバーセキュリティ法、データセキュリティ法、個人情報保護法等の法令に基づき処罰され、警告、通知・戒告、是正命令等の行政処分を行われ、是正が拒否され又は情状が重大な場合にはサービスの提供停止を命じられ、実際の状況に応じて治安管理上の責任又は刑事責任も追及される可能性があります[45]。

以上

---

[1] 「新一代人工智能发展规划」
（https://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm）
[2] 「生成式人工智能服务管理暂行办法」
（https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm）
[3] 本弁法第2条第1項
[4] 本弁法第22条第1号
[5] 「互联网信息服务深度合成管理规定」
（https://www.gov.cn/zhengce/zhengceku/2022-12/12/content_5731431.htm）
[6] ディープシンセシス管理規定第23条第1項
[7] 「公衆」の定義や範囲について、生成AIサービスの管理当局であるインターネット情報部門に照会したところ、「生成AIサービス管理暫定弁法に定める『公衆』は、世論を表現することができ、且つ動員される対象にもなれる不特定多数の個人や組織と解され、中国における数が限られた個人や組織はこれに該当しない」旨の回答を受けています。
[8] 本弁法第2条第1項
[9] 本弁法第22条第2号
[10] 本弁法第2条第3項
[11] 本弁法第22条第3号
[12] 本弁法第4条
[13] 本弁法第7条
[14] 「网络安全法」
[15] 「数据安全法」
[16] 「个人信息保护法」
[17] データラベリングの定義について、現行法上明確な規定はありませんが、通常、機械学習モデルの学習に使うデータ（音声、画像、テキスト、動画等）に、予めラベルを付与し、意味づけを行っておく工程を意味します。
[18] 本弁法第8条
[19] 本弁法第9条第1項
[20] 本弁法第11条
[21] 本弁法第9条第2項
[22] 中国法上の未成年者とは、18歳未満の者を指します（未成年者保護法（未成年人保护法）第2条）。未成年者が依存するようなインターネットサービスの提供は未成年者ネットワーク保護条例（未成年ネットワーク保護条例（未成年人网络保护条例））によって厳しく制限されており、本弁法の規定も同条例の趣旨を敷衍したものといえます。
[23] 本弁法第10条
[24] 本弁法第12条
[25] 「人工智能生成合成内容标识办法」
（https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm）
[26] コンテンツ標識弁法第3条第2項～第4項
[27] ディープシンセシス管理規定第16条、コンテンツ標識弁法第5条
[28] ディープシンセシス管理規定第17条、コンテンツ標識弁法第4条
[29] コンテンツ標識弁法第4条第1項第1号、第2号
[30] 「网络安全标准实践指南——生成式人工智能服务内容标识方法」
（https://www.tc260.org.cn/front/postDetail.html?id=20230825190345）
[31] コンテンツ標識弁法第8条
[32] コンテンツ標識弁法第9条
[33] 本弁法第14条
[34] 本弁法第15条
[35] 「互联网信息服务算法推荐管理规定」
（https://www.gov.cn/zhengce/zhengceku/2022-01/04/content_5666429.htm）
[36] 本弁法第17条
[37] 「具有舆论属性或社会动员能力的互联网信息服务安全评估规定」
（https://www.gov.cn/zhengce/zhengceku/2018-11/30/content_5457763.htm）
[38] セキュリティ評価規定第2条、第3条
[39] 「全国互联网安全管理服务平台」
（https://beian.mps.gov.cn/#/）
[40] セキュリティ評価規定第7条、第8条
[41] アルゴリズム推奨管理規定第24条
[42] https://www.cac.gov.cn/2025-01/08/c_1738034725920930.htm
[43] この生成AIサービスに関する届出又は登記については、本弁法において明確な法的根拠となる規定がなく、あくまでも実務上の運用となっています。
[44] 「互联网信息服务算法备案系统」
（https://beian.cac.gov.cn/#/index）
[45] 本弁法第21条