フィジカルAIが発達した場合の加害問題―けがの責任は誰が負うのか

人の代わりに荷物を運び、料理を作り、高齢者の移動を手伝う。フィジカルAIが発達すれば、こうした作業を自律的にこなすロボットが、生活の身近な存在になるかもしれません。フィジカルAIとは、センサーや駆動装置などを通じて現実の環境を認識し、物理的に働きかけるAIシステムを指します。文章を生成するだけでなく、実際に物を動かし、人に接触する点が重要です。

しかし、介助ロボットが人を落下させたり、調理ロボットが熱湯をかけたりした場合、その責任は誰が負うのでしょうか。製造した会社でしょうか。それとも、所有・占有している人でしょうか。本稿では、日本法を前提に、現在の責任の考え方と、今後必要になる制度を分けて考えます。

「AIが判断した」ことは、責任問題の終わりではない

まず押さえたいのは、「AIが自分で判断した」という技術上の説明と、「誰が損害賠償をするのか」という法律上の問題は別であるという点です。現在の日本法における検討の中心は、AIそのものではなく、開発・提供・利用に関わる人や法人の責任です。経済産業省が2026年4月に公表した「AI利活用における民事責任の解釈適用に関する手引き」も、民法上の不法行為責任や製造物責任を中心に整理しています。この手引きは新しい賠償制度を創設したものではなく、現行法の解釈を示す資料であり、裁判所の判断を拘束するものでもありません。例えば、店内のロボットが来店客に衝突したとします。原因としては、センサーの不具合、安全機能の設計不足、店舗による危険な設定、整備不足などが考えられます。同じ「ロボットにぶつかられた事故」でも、原因によって検討する責任は変わります。したがって、問題は「作った側と持っている側の二択」ではありません。設計、製造、導入、運用、保守の各段階で、誰にどのような問題があったのかを分けることが出発点になります。

ロボットに欠陥があれば、メーカーの製造物責任が問題になる

フィジカルAIを搭載したロボット本体は、通常、製造物責任法の対象となる製造・加工された動産に当たります。同法3条は、引き渡した製造物の欠陥によって人の生命、身体などに損害が生じた場合に、製造業者等が賠償責任を負うことを定めています。ここでいう「欠陥」は、単に故障していることではありません。製品の性質、通常予想される使われ方、引渡し時期などを踏まえ、通常備えているべき安全性を欠いていることを意味します。欠陥は一般に、製造上の欠陥、設計上の欠陥、指示・警告上の欠陥に整理されます。例えば、家庭用ロボットの関節部品が製造ミスで外れ、人に落下した場合は、製造上の欠陥が問題になります。人に触れる用途なのに、過大な力が加わることを防ぐ仕組みが不十分であれば、設計上の欠陥が争点になり得ます。また、一定の条件では人を認識しにくくなるのに、その制約が適切に説明されていなかった場合には、指示・警告の不足を検討することになります。製造物責任の特徴は、被害者がメーカーの過失を立証しなくても、責任を追及できる点です。ただし、事故が起きただけで必ず賠償されるわけではありません。製品の欠陥、損害、その間の因果関係を示す必要があります。「人がけがをした」という結果と、「法律上の欠陥があった」という評価は区別しなければなりません。

「作った人」は、プログラマーだけを意味しない

日常的な表現では「AIを作った人が悪い」と考えがちですが、法律上の責任主体はもう少し複雑です。製造物責任法では、業として製造・加工・輸入した者のほか、製造業者であるかのように自社名や商標を表示した者なども、責任主体になり得ます。海外メーカーの製品でも、日本に輸入した事業者の責任を検討できる場合があります。一方、単に販売したというだけで、すべての販売店が同法上の責任を負うわけではありません。また、日本の製造物責任法では、ソフトウェア単体は原則として対象となる製造物に含まれません。しかし、ロボットに組み込まれたソフトウェアの不具合が、ロボット全体の安全性を損なっている場合には、製品としての欠陥になり得ます。「原因はAIのプログラムだから、製造物責任とは無関係」とはいえないのです。例えば、機体メーカー、AI開発会社、クラウドサービス会社が別々である場合、役割ごとの検討が必要です。ソフトウェア事業者が製造物責任法の直接の対象にならなくても、危険な処理を過失によって提供し、それが事故につながったなら、民法709条による責任は別に問題になります。逆に、開発に参加した技術者全員が、参加したという理由だけで個人責任を負うわけでもありません。

民法第709条

故意又は過失によって他人の権利又は法律上保護される利益を侵害した者は、これによって生じた損害を賠償する責任を負う。

所有者・利用者にも、使い方や管理についての責任がある

メーカーに問題がなくても、使う側の行動が原因で事故が起こることは考えられます。民法709条は、故意又は過失によって他人の権利などを侵害した者の賠償責任を定めています。ロボットを利用する場合も、事故を予測し、回避するために求められる注意を怠ったかが重要になります。例えば、子どもが行き交う店舗でロボットを危険な速度に設定する、安全装置を無効にする、異常動作が繰り返されているのに使用を続ける、といった場合です。こうした事情とけがとの因果関係が認められれば、運用する事業者や担当者の過失が問題になり得ます。ここで、所有者、占有者、運用者が同じとは限りません。レンタル会社が所有し、店舗が借りて使用し、別会社が点検する形も考えられます。所有名義だけではなく、誰が設定を変更でき、誰が異常を把握し、誰が停止や整備を行う立場だったのかを確認する必要があります。もっとも、自律型ロボットの使用者に、内部の判断を常時理解し、すべての動作を事前に確認することを当然に要求するのも適切ではありません。本稿の考えでは、家庭の利用者と専門の運用事業者を同じ水準で扱うのではなく、利用目的、説明された性能、危険性、管理できる範囲を踏まえて考えるべきです。重要なのは「AIを使ったこと自体が過失」なのではなく、その用途で使う判断や、使い続けるための安全管理が適切だったかという点です。

占有者が責任を負う民法717条は、そのまま使えるか

「物によってけがをしたなら、その物を占有する人が責任を負うのではないか」という疑問に関係するのが、民法717条の土地工作物責任です。この条文は、土地の工作物の設置又は保存に瑕疵があり、それによって損害が生じた場合について、原則として占有者の責任を定めています。占有者が損害防止に必要な注意をしていた場合には、所有者が責任を負います。この場合の所有者は、自分に過失がなかったというだけでは免責されません。しかし、これは「すべての物の占有者」に適用される規定ではありません。対象はあくまで土地の工作物です。例えば、建物に組み込まれたAI制御の自動ドアや昇降設備については、設備の性質や設置状況により、この責任が問題になる余地があります。これに対し、室内を自由に移動する家庭用ロボットや配送ロボットを、単にその場所で使用していたという理由だけで土地の工作物と扱うことはできません。したがって、「ロボットの占有者だから、717条によって必ず賠償する」と結論づけるのは不正確です。まず、その設備が条文の対象に当たるかを検討しなければなりません。

民法第717条

土地の工作物の設置又は保存に瑕疵があることによって他人に損害を生じたときは、その工作物の占有者は、被害者に対してその損害を賠償する責任を負う。ただし、占有者が損害の発生を防止するのに必要な注意をしたときは、所有者がその損害を賠償しなければならない。

２　前項の規定は、竹木の栽植又は支持に瑕疵がある場合について準用する。

３　前二項の場合において、損害の原因について他にその責任を負う者があるときは、占有者又は所有者は、その者に対して求償権を行使することができる。

自律的に動くなら、動物の飼い主と同じ責任なのか

もう一つ考えられるのが、民法718条の動物占有者責任との比較です。同条は、動物が他人に加えた損害について、占有者などの責任を定めています。ただし、動物の種類や性質に応じた相当の注意をもって管理した場合には、免責される余地があります。人が一つ一つ指示しなくても行動するという点では、自律型ロボットと動物には似た面があります。そこで、動物の占有者に関する規定をロボットにも類推適用できないかという学説上の提案があります。しかし、ロボットは条文上の動物ではありません。この発想は解釈上の提案であって、ロボットの持ち主に一律の責任を負わせる確立したルールとして扱うべきではありません。この比較から考えるべきなのは、「動物と同じにするか」という形式だけではないでしょう。予測し切れない動きをするものを社会で利用するとき、その危険を管理する立場にある者と、便益を得る者が、被害の負担をどの程度引き受けるべきかという問題です。

民法第718条

動物の占有者は、その動物が他人に加えた損害を賠償する責任を負う。ただし、動物の種類及び性質に従い相当の注意をもってその管理をしたときは、この限りでない。

２　占有者に代わって動物を管理する者も、前項の責任を負う。

自律学習やアップデート後の事故は、責任をさらに複雑にする

フィジカルAIが使用開始後に学習し、行動を変える仕組みであれば、事故原因が出荷時に存在したのか、その後に生じたのかが問題になります。例えば、購入時には安全だったロボットが、追加学習によって危険な動きをするようになった場合を考えます。メーカーの初期設計、学習させた内容、学習範囲の制限、使用者による改造などを分けて検討する必要があります。製造物責任では引き渡した製品の欠陥が問題になりますが、「事故が後から起きた」というだけで、引渡し時の欠陥が否定されるわけではありません。例えば、危険な学習結果が実際の動作に直結するのに、動作範囲を制限する仕組みが不十分だったなら、最初から安全設計に問題があったという見方もできます。他方、利用者が安全制限を解除し、想定外の用途に改造したのであれば、その変更が事故にどう影響したかが争点になります。メーカーによる更新プログラムが新たな不具合を生むケースもあります。この場合には、更新内容の検証や提供行為の過失に加え、製造物責任における「引渡し」をどう捉えるかも論点になります。経済産業省の手引きも、ソフトウェアのアップデートと製造物責任の関係を検討しています。なお、製造物責任法4条には、引渡し時の科学・技術の知見では欠陥を認識できなかった場合の免責が定められています。しかし、これはメーカーが単に「その動きは予想していなかった」と述べれば足りる制度ではありません。その企業の知識不足ではなく、当時の客観的な科学・技術水準が基準になります。したがって、「AIは予測できないからメーカーに責任はない」という説明も、「予測できないものを売った以上、どんな事故でも責任がある」という説明も、いずれも単純すぎます。

製造物責任法第4条

前条の場合において、製造業者等は、次の各号に掲げる事項を証明したときは、同条に規定する賠償の責めに任じない。

①　当該製造物をその製造業者等が引き渡した時における科学又は技術に関する知見によっては、当該製造物にその欠陥があることを認識することができなかったこと。

②　当該製造物が他の製造物の部品又は原材料として使用された場合において、その欠陥が専ら当該他の製造物の製造業者が行った設計に関する指示に従ったことにより生じ、かつ、その欠陥が生じたことにつき過失がないこと。

メーカーと利用者の両方が責任を負うこともある

事故原因は、一つとは限りません。ロボットの安全設計が不十分で、さらに店舗が危険な設定のまま運用していたという重複も考えられます。関係者の行為が共同不法行為の要件を満たす場合には、民法719条により、複数の者が連帯して賠償責任を負うことがあります。ただし、事故に関与した会社が複数あるだけで、自動的に全社の連帯責任になるわけではありません。それぞれの責任原因や、損害との関係を検討する必要があります。また、従業員が業務中にロボットの設定を誤り、第三者にけがをさせた場合には、民法715条の使用者責任が問題になります。ただし、同条が対象とするのは人である被用者の行為です。ロボットを「従業員」と呼べば、その動作すべてに当然に適用されるというものではありません。事業者間の契約で「事故は利用者がすべて負担する」と決めていても、契約に参加していない被害者の権利を、それだけで制限できるわけではありません。被害者に対する責任と、事業者同士で最終的に費用を分担する問題は別です。消費者との契約でも、「どのような理由でも一切賠償しない」という全面的な免責条項は、消費者契約法8条などにより無効となる場合があります。ただし、条項が無効だからといって、事故について無条件の賠償責任が生まれるわけではなく、法律上の責任要件は別に判断されます。

民法第719条

数人が共同の不法行為によって他人に損害を加えたときは、各自が連帯してその損害を賠償する責任を負う。共同行為者のうちいずれの者がその損害を加えたかを知ることができないときも、同様とする。

２　行為者を教唆した者及び幇助した者は、共同行為者とみなして、前項の規定を適用する。

民法第715条 ある事業のために他人を使用する者は、被用者がその事業の執行について第三者に加えた損害を賠償する責任を負う。ただし、使用者が被用者の選任及びその事業の監督について相当の注意をしたとき、又は相当の注意をしても損害が生ずべきであったときは、この限りでない。２　使用者に代わって事業を監督する者も、前項の責任を負う。３　前二項の規定は、使用者又は監督者から被用者に対する求償権の行使を妨げない。

被害者にとって大きな壁は、事故原因の立証である

責任を問う仕組みがあっても、被害者が必要な事実を証明できなければ、救済につながらないおそれがあります。自律型ロボットの事故では、過失や欠陥の立証が困難になり得ることが、研究上も指摘されています。例えば、人が突然ロボットに押し倒されたとしても、外から見ただけでは、センサーの誤認識なのか、遠隔指示なのか、機械部品の故障なのかは分かりません。原因を示す情報がメーカーや運用会社に偏っている場合、被害者が「けがをした理由」を説明するための資料を入手できないという問題が生じます。また、利用者の過失も製品の欠陥も認められず、ほかの責任根拠も成立しない場合には、損害賠償請求が認められない可能性があります。「けがをした人がいる以上、メーカーか所有者のどちらかが必ず支払う」という一般的な仕組みではない点は、被害者救済を考えるうえで重要です。実際に事故が起きたときは、まず救護と安全確保を優先し、そのうえで、事故時刻、場所、動作、目撃者、現場映像、機体番号、表示されたエラーなどを記録しておくことが重要です。治療経過を示す診療記録や領収書なども、被害を説明する資料として保管しておくべきでしょう。運用側では、事故時のソフトウェアの版、更新履歴、指示内容、センサー記録、点検履歴などを残せる体制が望まれます。安全確保のための停止と、原因究明に必要な情報の保存を両立させ、安易な初期化や記録の消去で検証できなくなる事態を避ける必要があります。賠償請求や証拠の確保が必要な場合には、事故資料を整理して弁護士に相談することが考えられます。この問題は、被害者個人の注意だけでは解決できません。将来の制度として、営業秘密や個人情報を守りつつ、事故調査に必要な情報へ適切にアクセスできる仕組みを整えることが重要だと考えます。

民事上の賠償責任と、刑事責任は区別する

重いけがや死亡事故では、損害賠償だけでなく、刑事責任も問題になります。刑法には過失傷害罪や業務上過失致死傷罪などがあり、事故に関わった人について、それぞれの犯罪の要件を満たすかが検討されます。ただし、メーカーが製造物責任を負うことと、担当技術者が犯罪について処罰されることは同じではありません。製造物責任ではメーカーの過失の立証を要しませんが、過失犯として人を処罰する場合には、その人の注意義務違反などが問題になります。事故の重大さだけを理由に、開発者や所有者を直ちに処罰できるわけではありません。

今後は「責任を決める制度」と「救済を先に進める制度」が必要になる

ここからは、現行法の説明ではなく、フィジカルAIの普及に向けた制度上の提案です。 まず、高い危険性を伴うロボットについては、運用の責任主体を明確にする仕組みが必要でしょう。誰が所有しているかだけではなく、誰が使用環境を決め、停止権限を持ち、更新や保守を管理するのかを、導入時から整理しておくということです。次に、被害者への補償を、事業者同士の責任争いが終わるまで待たせない仕組みが考えられます。一定の身体被害について保険や補償基金から先に支払い、その後にメーカー、運用者、保守事業者などの負担を精算する方法です。ただし、補償制度は、単に保険加入を義務づければ完成するわけではありません。責任の所在が未確定の場合や、誰の過失・欠陥も立証できない場合を、どこまで支払いの対象に含めるのかが重要です。被害者救済を優先するのであれば、こうした場合に補償を受けられる条件まで設計する必要があります。また、すべての製品に同じ負担を課すことが適切とも思えません。小さな玩具と、人を持ち上げる介助ロボットや重量物を運ぶ機械では、想定される被害が異なります。用途、重量、出力、人との接触の程度などに応じた段階的な制度が望ましいでしょう。さらに、事故記録の保存、第三者による原因調査、資料の開示、一定の場合の立証負担の軽減も検討課題です。被害者だけに専門的な解明を求めず、同時に、事故と無関係な事業者が反証する機会も確保する。その両面を満たす制度が必要です。

まとめ―「誰のAIか」より「誰が危険を管理できたか」

フィジカルAIが人にけがをさせた場合、製品の安全性に問題があればメーカー側の製造物責任が、危険な使い方や管理不足があれば利用者側の不法行為責任が問題になります。建物に組み込まれた設備では土地工作物責任、従業員の業務上の過失では使用者責任など、事故の形に応じた検討も必要です。一方、「所有者だから必ず責任を負う」「AIが自律的に動いたから誰も責任を負わない」という結論は、どちらも適切ではありません。今後重要になるのは、誰が危険を予測・管理できたのかを確かめることと、原因究明の難しさを被害者だけに背負わせないことです。AIの自律化が、人や企業の無責任化につながってはなりません。便利な技術を安心して受け入れられる社会には、事故を減らす設計と、事故後に人を支える制度の両方が必要です。