はじめに

第6回（前回）のブログでは、AIエージェントの民事責任のうち、補助・支援型について、経済産業省の「AI利活用における民事責任の在り方に関する研究会」[i]が公表した「AI利活用における民事責任の解釈適用に関する手引き〔第1.0版〕（案）」の整理を踏まえて検討しました。同手引きは、その後、2026年4月9日に「AI利活用における民事責任の解釈適用に関する手引き〔第1.0版〕」（以下「手引き」といいます。）として正式に公表されています。[ii]

本ブログでは、依拠・代替型に関する手引きの整理を踏まえて、民事責任を検討します。依拠・代替型は、AIに判断を委ねることが予定される類型であり、補助・支援型と比較して、AIの出力に依拠した結果として第三者に損害が生じた場面における各当事者の責任の在り方が問題となります。手引きにおいて依拠・代替型に該当し得るケースとしては、想定事例として、外観検査AI（想定事例5）、自律走行ロボット（AMR）（想定事例6）、AIエージェント（想定事例7）が挙げられています。[iii]

このような依拠・代替型に該当し得るAIの利活用は、現実の事業活動においても進展しつつあります。例えば、Amazonは、2025年7月時点で、世界300以上の拠点に100万台目のロボットを導入した旨を公表しており、その中には、従業員と同じエリア内を完全に自律的に走行し、顧客注文の積載されたカートを搬送する「Proteus」と呼ばれるAMRも含まれているとされています。[iv]

本ブログでは、依拠・代替型に関する手引きの整理を取り上げますが、前回のブログでも述べたように、裁判所の判断において、補助・支援型と依拠・代替型の類型選択それ自体が問題にならないことも考えられるため、この点を敷衍しつつ、検討します。

本ブログの要点

• 補助・支援型／依拠・代替型の二分論には実務上の切り分けの困難があり得るため、機械的な適用は適切でない
  手引きは、補助・支援型と依拠・代替型の二分論を採用しており、検討の出発点として重要ですが、訴訟においては、必ずしも切り分けられない可能性もあり、類型選択の適否自体が決定的な争点となる場面は限定的になると考えられ、当該事案の具体的な事実関係を前提として当事者がどのような注意義務を負っていたかが重要になります。
  
• メーカーの製造物責任とAI利用者の安全配慮義務等との間で、責任判断時点のズレが生じ得る
  フィジカルAI（AMR等のロボット）による被害について、メーカーの製造物責任における「欠陥」の判断は原則として引渡時点を基準とするため、引渡後のソフトウェア・アップデート等によって挙動が変化した場合に、メーカーの製造物責任で必ずしも救済されないことが考えられます。他方、AI利用者の従業員に対する安全配慮義務等は、事故発生時点を基準として判断されるため、両者の責任判断時点にズレが生じ得ます。AI利用者としては、メーカーの製造物責任で救済されない可能性を踏まえ、引渡後の継続的なリスク管理を行うことが重要となります。
• AI利活用の場面に応じた注意義務を整理し、既存のフレームワークを踏まえたガバナンスを構築することが重要となる
  AIの利活用において、当事者がどのような注意義務を負うかは、業務プロセスにおけるAIの位置付けに応じて異なります。実務的には、各場面に応じた注意義務を整理した上で、既存のフレームワーク（労働安全衛生法上のリスクアセスメント、品質管理、内部統制、情報セキュリティ管理等）を踏まえたガバナンスを構築することが、前方視野的な対応として有用と考えられます。

補助・支援型／依拠・代替型の二分論への疑義

(1)　手引きの整理

手引きは、補助・支援型と依拠・代替型を、「最終的に人の判断や行動を介在させることが予定されているか否か」を基準に切り分けた上で、AI利用者及びAI開発者・提供者の責任判断の方向性をそれぞれ整理しています。[v]

すなわち、補助・支援型は、AIが判断の補助ないし支援としてのみ用いられ、最終的に人の判断や行動を介在させることが予定されている類型です。依拠・代替型は、人の判断や行動を代替する前提で提供され、AIの出力に依拠しながら用いることが予定されている類型とされています。

依拠・代替型のAI利用者については、AIの不適切な出力をすべて検証する形での結果回避義務は認められないとされ、その代わり、AI利用者の注意義務の対象は、AIシステムを組み込んだ業務プロセスの適正な構築及び運用へと転換すると整理されています。

依拠・代替型のAI開発者・提供者については、AIに判断を委ねることが合理的といえるための安全性を発揮・維持するため、合理的に可能な設計上の措置や、リスクコントロールの上で重要な情報を分析してAI利用者への情報提供を行う等の説明上の措置が求められると整理されています。

なお、手引きは、AIが依拠・代替型に該当するためには、(i)人による判断や行動を介在させることでは実現困難な効用が見込まれること（必要性）、(ii)AIが一定の精度や安全性を備えていること（精度及び安全性）の2つの要件が求められるとしています。[vi]

(2)　二分論について

ア　実務上の困難性

手引きは、補助・支援型と依拠・代替型を、AIの利用形態に応じた整理として示していますが、実務的なケースを想定すると、両類型の切り分けには困難が生じ得ます。

例えば、製造ラインにおいて、原材料・部品の受入検査AI、組立工程に組み込まれた検査AI、AMRによる工程間搬送、最終工程での外観検査AIといった複数のAIシステムが連携して稼働する業務プロセスを想定します。このような業務プロセスにおいて、最終的な製品の不良流出といった事故が生じた場合、その責任判断において、プロセスごとに切り分けて依拠・代替型、補助・支援型を判断するのか、切り分ける場合、どのプロセスで事故の原因が発生したのか特定できるのか、事故の原因が複合的な場合にはどのように判断するのかなど、必ずしも類型に切り分けて判断することが馴染まない場合が考えられます。

 

イ　訴訟実務を踏まえた検討の必要性

類型選択の適否自体が争われた場合、当該AIの利活用が補助・支援型と依拠・代替型のいずれに該当するか、また、本来選択すべき類型と異なる類型を選択したことが直ちに注意義務違反を構成するか、という点が問題になると考えられます。

しかし、前回のブログでも述べたとおり、AIをどのような使い方で用いるかという判断は、AIの機能・性能、利用される業務の性質、利用時点で入手可能な情報等を踏まえた総合的な判断であり、その判断の時点で合理的な検討を行っていたのであれば、事後的に見て類型選択が適切でなかったとしても、それ自体を直ちに注意義務違反と評価することは困難な場合もあると考えられます。また、類型選択の誤り自体によって損害が発生したのか（仮に本来選択すべき類型を選択していたとしても同じ損害が発生したのではないか）の特定が困難な場合もあると考えられます。

そうすると、実際の訴訟においては、類型選択の適否それ自体というよりも、具体的な体制を踏まえて当事者がどのような注意義務を負っていたか、それを尽くしていたかが中心的な問題になると考えられます。

(3)　検討の方向性

もっとも、手引きの整理は、責任判断の方向性を整理する上での検討の出発点として重要な意義を有します。手引きが示すように、AI利用者の注意義務の中心が「業務プロセスの適正な構築及び運用」に転換するという視点や、AI開発者・提供者について設計上・説明上の措置が求められるという視点は、訴訟における具体的な注意義務の検討に当たっても、有益な整理を提供するものです。そうすると、二分論は、機械的に適用されるものではなく、業務プロセスにおけるAIの位置付けや人の判断の介在の態様を整理するための一つの視点として活用することが適切と考えられます。

本ブログでは、依拠・代替型として論じられている場面を取り上げて検討します。その際、補助・支援型と依拠・代替型のいずれに該当するかという類型選択の観点よりも、製造物責任の対象となるかどうか、生命・身体への危険を生じさせるかどうかといった実質的な観点から、フィジカルAIと非フィジカルAIに分けて、検討することとします。

フィジカルAIによる被害が生じた場合の責任構造

(1)　総論－想定事例6（AMR）－

手引きは、想定事例6として、倉庫や工場で稼働するAMRが従業員に衝突して負傷させた事例（事例a）、ソフトウェア・アップデート後にバグが生じ衝突事故が発生した事例（事例b）、AMRに搭載された自己診断AIの誤った診断により発火事故が生じた事例（事例c）を挙げ、AMRメーカー（M）と物流事業者であるユーザー（N）の責任構造を整理しています。[vii]

 

（手引き54頁から引用）

事例a及び事例bでは現場作業員の身体的損害が、事例cではユーザーの財産に係る損害が生じており、いずれも、メーカーの責任（主に製造物責任）とユーザーの責任（安全配慮義務違反、一般不法行為責任）が問題となるとされています。[viii]

なお、AMRのようなフィジカルAIに関連する責任主体としては、メーカー及びユーザーのほか、AIモデルの開発者やAIサービスの提供者等が関与することも想定されます。AIの開発・提供においては複数のプレイヤーが関与するため、誰が「製造業者等」に該当するか、それぞれがどのような責任を負うかも問題となり得ます。本ブログでは、まずは、メーカーとユーザーを中心とする法的責任に着目して検討します。

(2)　メーカー・AI開発者・AI提供者の責任

ア　製造物責任

（ア）判断の枠組み

フィジカルAIによる被害については、非フィジカルAIとは異なり、「製造又は加工された動産」として製造物責任の対象となる可能性があります（製造物責任法2条1項）。

製造物責任法に基づく損害賠償請求においては、製造業者等が製造・加工・輸入等した製造物に「欠陥」があることが要件となります（製造物責任法3条）。「欠陥」とは、製造物が通常有すべき安全性を欠いていることをいいます（同法2条2項）。

AMR等のフィジカルAIについては、機体の不具合や設計不備が従来の製造物と同様に問題となるほか、ソフトウェアの挙動によって生じる事故についてどのように欠陥判断を行うかが問題となります。特に、設計上の欠陥との関係で[ix]、AIにより自律的に稼働するロボット等は、その性質上柔軟な挙動を行うことが予定されているため、あらかじめ一定の挙動が定められている従来型のロボットと異なり、どのような挙動が求められる設計を逸脱し、「通常有すべき安全性」を欠くと評価されるかが、悩ましい問題となります。

手引きは、自動運転車に関する議論を参考として、(i)総体的・統計的な安全性を基準とする考え方、(ii)個別状況における安全性を基準とする考え方を紹介しつつ、これらの考え方だけでは、AMRのような普及途上にあり、人の運転操作を前提としない機械の欠陥を確定することには困難が伴う旨指摘しています。[x]そこで手引きは、AMRの設計上の欠陥の判断について、これらに加えて、実際の事案における利用環境及びAMRの具体的な設計を踏まえ、当該事故を回避可能な合理的な代替設計が存在したか否かを基準とすることを示しています。具体的には、予定された仕様や設計が重大なバグ等の不具合により発揮されなかった場合には設計上の欠陥に該当する可能性が高い一方で、利用環境や利用方法に起因する事故については、稼働現場がユーザーの管理下にあり、リスクアセスメントが前提となることに鑑み、設計上の欠陥は認められにくいとされています。[xi]

 

（イ）引渡時点を基準時とすることに伴う責任判断時点のズレ

製造物責任における欠陥判断の基準時は、原則として製造物の引渡時点であるとされます（製造物責任法2条2項）。

AIを組み込んだ製造物の場合、引渡時点後のソフトウェア・アップデートによって生じた不具合をどのように扱うかが問題となります。手引きは、この点について、(i)引渡時点での欠陥に限定する考え方、(ii)最終アップデート時点までの影響を考慮する考え方の双方を紹介しています。[xii]

ソフトウェア・アップデートが予定されている製造物については、後者の考え方の必要性が高まっているとの指摘もありますが、「製造物」は「動産」とされており（製造物責任法2条1項）、「動産」の「引き渡した時期」（同法2条2項）を「動産」ではないソフトウェア・アップデートの時期と解釈することには法文上困難な面があります。

製造物責任について引渡時点が基準時になるとすれば、AI利用者が従業員に対して負う安全配慮義務との関係で、責任判断時点のズレを生じさせ得る点に留意が必要です。例えば、AMRが引渡後のソフトウェア・アップデートによって挙動を変えて従業員に衝突する事故が発生した場合、メーカーの製造物責任の判断は、原則として、引渡時点における欠陥の有無を基準として行われます。他方、AI利用者の従業員に対する安全配慮義務（後記(3)イ）の判断は、事故発生時点における職場環境やAMRの状態を前提として行われます。そうすると、引渡後のアップデートの結果として事故が発生した場合、メーカー側の製造物責任が認められないものの、AI利用者側に責任が認められる可能性が残ることになります。

AI利用者としては、メーカーの製造物責任で必ずしも救済されない可能性を踏まえ、引渡後の継続的なリスク管理を行うことが重要となります。

 

（ウ）その他の論点

その他、AIに関連する製造物責任の論点としては、開発危険の抗弁（製造物責任法4条1号）の適用可能性が挙げられます。手引きは、従来の裁判例では同抗弁の適用を認めた事例は存在しないものの、不確実性が内在する科学技術であるAIに関しては、今後、引渡時点における科学又は技術に関する知見によって欠陥を認識できなかったとして同抗弁が認められる事例が生じることはあり得ると指摘しています。[xiii]

なお、EUにおいては、2024年に改正された製造物責任指令により、ソフトウェアも「製造物」の定義に含まれることが明確化されました。[xiv]

 

イ　不法行為責任

製造物責任のほか、メーカー、AI開発者、AI提供者は、設計上・説明上の注意義務違反による不法行為責任（民法709条）を負う場合があります。

手引きは、依拠・代替型のAI開発者・提供者について、AIに判断を委ねることが合理的といえるための安全性を発揮・維持するために合理的に可能な設計上の措置や、リスクコントロールの上で重要な情報を分析しAI利用者への情報提供を行う等の説明上の措置が求められると整理しています。[xv]これらの注意義務の具体的な内容は、AIの機能・性能、利用が予定される業務の性質、想定されるリスク等を踏まえて、個別具体的に検討する必要があると考えられます。

 

(3)　ユーザー（AI利用者）の責任

ア　第三者に対する不法行為責任

AI利用者は、AIを利用して業務を行う中で、第三者に損害を与えた場合には、不法行為責任（民法709条）を負う場合があります。

手引きは、依拠・代替型のAI利用者の注意義務は、AIシステムを組み込んだ業務プロセスの適正な構築及び運用に転換するとしています。具体的には、求められる精度や安全性を満たしたAIを用いること、必要な場面での人の関与を含めた業務プロセスを適切に構築していたか、当該業務プロセスを適切に運用していたかが問題となります。[xvi]

 

イ　安全配慮義務

AMRのようなフィジカルAIを職場に導入する場合、AI利用者である事業者は、自社の従業員に対して安全配慮義務を負います。

安全配慮義務の具体的な内容は、当該事業の性質や規模、導入するAIの特性等を踏まえて検討されることになります。フィジカルAIに関しては、既存のフレームワークを用いてリスク管理を行うことが整合的と考えられます。具体的には、労働安全衛生法上のリスクアセスメントの実施（労働安全衛生法28条の2）、産業用ロボットに関する労働安全衛生規則上の措置（労働安全衛生規則150条の3〜5）等、既存の労働安全衛生法令上のフレームワークの遵守状況は、安全配慮義務違反の有無を判断する重要な考慮要素となると考えられます。

非フィジカルAIによる被害が生じた場合の責任構造

(1)　総論－想定事例7（AIエージェント）－

手引きは、想定事例7として、オンライン講座の販売事業者がAIエージェントを導入してカスタマーサポートを自動化した事例を挙げています。当該AIエージェントは、社内情報において「補助金の対象外」とされていた商品について、インターネット上の情報を踏まえて「補助の対象となるため購入を検討されたい」旨の回答及び勧誘を行い、顧客が当該講座の受講を申し込んだ後に補助の対象とならないことが発覚した、という事例です。[xvii][xviii]

（手引き70頁から引用）

なお、手引きは、想定事例7のようなAIエージェントについて、その種類や用い方によって補助・支援型に該当する場合と依拠・代替型に該当する場合の双方があり得るとしています。[xix]

(2)　AI利用者の業務プロセスの構築・運用の注意義務

非フィジカルAIによる被害については、フィジカルAIとは異なり、原則として製造物責任の対象外となり、不法行為責任が検討の中心となります。

非フィジカルAIによる被害については、AI利用者は、AIシステムを組み込んだ業務プロセスの適正な構築及び運用に関する注意義務を負うとされます。

手引きは、依拠・代替型に該当する場合のAI利用者（事業者）について、AIの品質及び精度の面では、高リスクな相談や複雑な回答について人の判断を介在させる等の措置も含めた業務プロセス全体として、同種業務に従事する通常人と同等以上の水準を発揮していることが必要となるとしています。[xx]また、特に消費者の重要な利益に関わる内容については、消費者保護の観点から高度の注意義務が認められやすいとされ、AIシステム単独で十分な回答精度の実現が難しい場合には人のオペレーター等に連携する等の業務プロセスの設計が問題となるとされています。[xxi]

実務的には、業務の性質、対応する事項のリスクの大小、消費者保護の必要性等を踏まえ、AIに任せる部分と人の判断を介在させる部分との切り分けを整理することが重要と考えられます。

 

(3)　AI開発者・提供者の設計上・説明上の注意義務

AI開発者・提供者は、AIに判断を委ねることが合理的といえるための安全性を発揮・維持するために合理的に可能な設計上の措置や、リスクコントロールの上で重要な情報をAI利用者に提供する等の説明上の措置を講じる必要があります。

特にAIエージェントについては、外部情報や外部ツールを自律的かつ連鎖的に利用するといった特徴及びリスクがあることも踏まえつつ、適切な設計上の措置や明確な説明を行っていたかが問題となります。[xxii]これらの義務の水準は、AIを依拠・代替型として提供するか、補助・支援型として提供するかに応じて異なるとされます。

民事責任を踏まえた対応

前回のブログで述べたとおり、訴訟においては、過失について、特定の時点における当時の状況を前提として何をすべきであったかが問われます。そのため、AIエージェントを開発・提供し、利用する段階では、前方視野的な発想に基づいて、自社の判断を整理し、書面化して準備を行うことが重要となります。これは、依拠・代替型についても基本的に妥当します。

その上で、本ブログで検討した依拠・代替型については、業務プロセスにおけるAIの位置付けや人の判断の介在の態様に応じて、具体的にどのような注意義務を負うかを整理しておくことが重要となります。前記3で述べたとおり、補助・支援型と依拠・代替型のいずれに該当するかという類型分類自体に検討を集中させるよりも、当該AIの利活用の実態に照らして、具体的に求められる注意義務の内容を検討する視点が有用と考えられます。

また、AIに関するリスク管理は、既存のフレームワークと整合的に構築することが実務的と考えられます。フィジカルAIに関しては、前記4(3)イのとおり、労働安全衛生法上のリスクアセスメント等の既存の労働安全衛生法令上のフレームワークを安全管理の出発点として活用できます。非フィジカルAIに関しても、各社が既に整備している品質管理、内部統制、情報セキュリティ管理（ISMS等）等の既存の体制を、AIに関するリスク管理に取り込むことが可能です。

手引きにおいても、AI事業者ガイドライン[xxiii]の考え方を踏まえたリスクの調査・分析や体制構築を行っていた場合に、過失の判断において斟酌される可能性があると述べられており[xxiv]、既存のフレームワークを活用したリスク管理を、AI事業者ガイドラインの考え方も踏まえて整理・書面化することが、前方視野的な対応として有用と考えられます。

まとめ

本ブログでは、手引きの整理を踏まえ、依拠・代替の類型におけるAIの民事責任について検討しました。

手引きの補助・支援型／依拠・代替型の整理は、責任判断の方向性を整理する上での検討の出発点として、重要な意義を有しますが、実務上、切り分けが困難となる場面があり得るため、機械的な適用は適切でないと考えられます。

その上で、本ブログでは、依拠・代替型として論じられている場面の責任構造を、製造物責任の対象となるかどうか、生命・身体への危険を生じさせるかどうかといった実質的な観点から、フィジカルAIと非フィジカルAIに分けて検討しました。いずれの場合も、当事者間における過失の有無の判断において、各時点における判断や対応の合理性を説明できるかが重要となります。既存のフレームワークを活用したリスク管理を行い、当該リスク管理の内容を整理・書面化しておくことが、前方視野的な対応として有用と考えられます。

また、フィジカルAIに関しては、メーカーの製造物責任における欠陥判断の基準時（引渡時点）と、AI利用者の安全配慮義務の判断の基準時（事故発生時点）との間に、責任判断時点のズレが生じ得る点に留意が必要です。AI利用者としては、メーカーの製造物責任で必ずしも救済されない可能性を踏まえ、引渡後の継続的なリスク管理を行うことが重要となります。

 

以上

---

[i] 経済産業省「AI利活用における民事責任の在り方に関する研究会」（https://www.meti.go.jp/shingikai/mono_info_service/ai_utilization_civil/index.html, 2026年4月23日最終閲覧）。

[ii] 経済産業省「AI利活用における民事責任の解釈適用に関する手引き〔第1.0版〕」（2026年4月）（https://www.meti.go.jp/shingikai/mono_info_service/ai_utilization_civil/20260409_report.html, 2026年4月23日最終閲覧）。

[iii] 経済産業省・前掲注ii）48-73頁。

[iv] Scott Dresser, “Amazon launches a new AI foundation model to power its robotic fleet and deploys its 1 millionth robot”, About Amazon（July 1, 2025）（https://www.aboutamazon.com/news/operations/amazon-million-robots-ai-foundation-model, 2026年4月23日最終閲覧）。

[v] 経済産業省・前掲注ii）17-18頁。

[vi] 経済産業省・前掲注ii）14-15頁。

[vii] 経済産業省・前掲注ii）53-54頁。

[viii] 経済産業省・前掲注ii）54頁。

[ix] 製造物責任における「欠陥」は、一般に、製造上の欠陥（製造物が設計・仕様どおりに作られず安全性を欠く場合）、設計上の欠陥（設計段階で十分に安全性に配慮しなかったために安全性に欠ける結果となった場合）、指示・警告上の欠陥（除去し得ない危険性が存在する製造物について、消費者側で防止・回避するのに適切な情報を製造者が与えない場合）の3類型に整理して説明されます（経済産業省・前掲注ii）57-58頁）。

[x] 経済産業省・前掲注ii）58-59頁。

[xi] 経済産業省・前掲注ii）61頁。

[xii] 経済産業省・前掲注ii）65-66頁。

[xiii] 経済産業省・前掲注ii）58頁注101。

[xiv] 改正製造物責任指令（Directive (EU) 2024/2853）4条1項参照。なお、加盟国による国内法化の期限は2026年12月9日とされています。

[xv] 経済産業省・前掲注ii）17-18頁。

[xvi] 経済産業省・前掲注ii）57頁等。

[xvii] 経済産業省・前掲注ii）70頁。

[xviii] 参考として、海外でも、カナダのMoffatt v. Air Canada事案では、Air Canadaのカスタマーサポート用チャットボットが同社の規程と異なる回答をしたことに関し、カナダの裁判所が同社の責任を認めました（The British Columbia Civil Resolution Tribunal, 2024 BCCRT 149）。なお、当該チャットボットが生成AIを用いていたかは明らかではありません。

[xix] 経済産業省・前掲注ii）70-71頁。

[xx] 経済産業省・前掲注ii）71頁。

[xxi] 経済産業省・前掲注ii）71頁。

[xxii] 経済産業省・前掲注ii）72-73頁。

[xxiii] 総務省・経済産業省「AI事業者ガイドライン（第1.1版）」（2025年3月28日）（https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20250328_report.html, 2026年4月23日最終閲覧）。

[xxiv] 経済産業省・前掲注ii）9頁。