LASSIC Media らしくメディア

監修・編集責任者：牛尾 昭昌（株式会社LASSIC 執行役員）

AIを組み込んだシステムで問題が起きたとき、説明の言葉として出てきやすいのが「モデルの判断でした」という言い方です。これを訴訟の抗弁として使えるかどうかを、条文で決めた州があります。

米国カリフォルニア州の議会法案316は、2025年10月13日に知事の承認を受けて2025年法律第672号となり、民法典に第1714.46条を新設しました*1。条文はわずか3項ですが、AIを扱う立場を3つに分けて同じ制限をかけ、あわせて残る主張まで書き出している点に特徴があります*1。

確かめたい点は4つあります。何が封じられたのか、何が残されたのか、誰が対象なのか、記録の側で何を持っておくことになるのか。法文から順に見ていきます。

条文は3項だけ、置かれた場所は過失責任の隣

まず、新設された条文の全体です*1。

第1714.46条(a)は定義です*1。人工知能とは、自律性の水準が一様でない、工学的または機械にもとづくシステムであって、明示的または黙示的な目的のために、受け取った入力から、物理的または仮想的な環境に影響を与えうる出力をどのように生成するかを推論できるものを意味すると定めます*1。カリフォルニア州の他の法律で使われている定義と同じ形です*1。

第(b)項が本体です*1。人工知能を開発し、改変し、または使用した被告に対する訴訟であって、当該人工知能が原告に害を生じさせたと主張されるものにおいて、当該人工知能が自律的に原告に害を生じさせたということは、抗弁とならず、被告はこれを主張してはならないという条文です*1。

第(c)項が留保です*1。この条は、被告が次のいずれかを提出することを制限し、または妨げるものではないとし、2つを挙げます*1。因果関係または予見可能性に関する証拠を含む、その他の積極的抗弁と、他の者または主体の比較過失に関するその他の証拠です*1。

置かれた場所も読み方に関わります*1。民法典の第1714条はすべての者は、自らの意図的な行為の結果についてのみならず、自己の財産または身体の管理における通常の注意もしくは技能の欠如によって他人に生じさせた損害についても責任を負うと定める一般規定です*2。今回の条文は、その隣に第1714.46条として差し込まれました*1。新しい責任の型を作るのではなく、既存の過失責任の枠組みの中で、使える主張を1つ削る形です*1。

もう1点、立法顧問の要旨には、既存法として2022年1月1日以後に公開され、カリフォルニア州の人々が利用できるよう公衆に提供された生成人工知能システムまたはサービスの開発者に、当該システムの訓練に用いたデータに関する文書を自らのウェブサイトへ掲載することを求める規定が挙げられています*1。訓練データの透明性の側については生成AIの訓練データ開示で扱う枠組みが対応します。

封じられたのは1つの主張、残るものは条文に書かれた

この条文の要点は、削られた範囲が狭く、かつ明確なことです*1。

使えなくなるのは当該人工知能が自律的に原告に害を生じさせたという主張だけです*1。条文は抗弁とならずと主張してはならないを並べており、主張自体が封じられる書き方になっています*1。

書き方が二重になっている点にも意味があります*1。抗弁とならずという評価と、被告はこれを主張してはならないという禁止が並んでいます*1。主張が認められないという結論だけでなく、その主張を持ち出すこと自体が封じられる形です*1。訴訟の場での言い方の問題に留まらず、事故が起きたときの社内の説明にも影響します。「モデルの判断だった」という整理で止めると、争点として残る部分の材料が集まらないまま時間が過ぎることになります。

一方で第(c)(1)項は因果関係または予見可能性に関する証拠を含む、その他の積極的抗弁を残しました*1。因果関係の否定や、予見できなかったという主張の道は閉じられていません*1。第(c)(2)項の他の者または主体の比較過失に関するその他の証拠も同じです*1。複数の当事者が関わる構成では、この2つが実務上の争点になります*1。

受託の立場から見ると、この書き分けは論点の置き場所を示しています*1。「モデルが勝手にそう答えた」という説明は主張として成り立たない一方で、その挙動が予見できたか、その挙動と損害の間に因果関係があるか、他の当事者の関与はどうだったかは、引き続き証拠の問題として残ります*1。

予見可能性が争点として残るということは、開発と運用の記録がそのまま材料になるという意味でもあります*1。どの挙動を想定していたか、どこまで試験したか、どんな制限を設けていたかを示せる形で残しているかどうかで、説明の組み立て方が変わります。評価の記録を積む枠組みはLLMの評価で扱う設計が土台になります。

対象は「開発・改変・使用」の3つの立場

誰にかかる条文なのかも、明確に書かれています*1。

第(b)項の対象は人工知能を開発し、改変し、または使用した被告です*1。3つの動詞が並んでおり、作った側に限られません*1。他社のモデルを組み込んだ側、微調整などで手を入れた側、業務の中で使った側が、それぞれ同じ制限を受ける形です*1。

受託開発の現場では、1つのシステムに複数の立場が同時に存在します*1。基盤モデルの提供元、それを組み込んだ元請、機能を作った下請、実際に業務で使う発注者。第(b)項の書き方では、このうちAIを開発・改変・使用した者が、いずれもこの制限の下に置かれます*1。多層の体制で責任の範囲を決めていく進め方は元請としてのAI開発で扱う整理と重なります。

なお、第1714.46条は改変の意味を定義していません*1。参考になるのは、同じ州法の別の編に置かれた定義です*3。民法典第15.2編の第3110条(d)は、訓練データの透明性の文脈で実質的に改変するとは、生成人工知能システムまたはサービスの新しい版、新しいリリースその他の更新であって、再訓練または微調整の結果を含め、その機能または性能を実質的に変更するものを意味すると定めています*3。あくまで当該編のための定義ですが、州法が改変という語で何を捉えているかの手がかりにはなります*3。

あわせて同条(b)は開発者を公衆の構成員による使用のために、人工知能システムまたはサービスを設計し、コード化し、生産し、または実質的に改変する者、パートナーシップ、州もしくは地方の政府機関または法人と定義しています*3。設計だけでなくコード化や実質的な改変を含む書き方であり、受託側が「開発者」に当たる場面は狭くありません*3。

この表のうち改変の行は、線が動きやすい部分です*1。プロンプトの文言の調整や、検索対象に文書を1件足す作業を改変と呼ぶかどうかは、条文からは決まりません*1。ただ、後から挙動の差を説明する場面では、どちらであっても記録が要る点は変わりません。記録の粒度を先に決めておくほうが、線引きの議論に引きずられずに済みます。

実務上は、自社がどの立場に当たるのかを構成要素ごとに切り分けておくことになります*1。基盤モデルはそのまま使い、検索の索引だけを自社で作り、判定の閾値を運用で調整している、といった構成では、要素ごとに立場が変わります。契約の段階でこの切り分けをしておく重要性はシステム開発契約の確認点で扱う論点と共通します。

残る争点は記録で戦う、という帰結

条文が予見可能性と因果関係を残したことは、実装の側に具体的な作業を生みます*1。

第一に、挙動の記録です。どの入力に対してどの出力が返ったかを、時刻と版とともに残していないと、後から挙動を再現できません。生成の要求と応答を追える形にしておく作りは生成AIの可観測性で扱う仕組みが土台になります。

第二に、変更の履歴です。モデルの版、プロンプトの版、検索対象の索引、閾値の設定。これらのどれが、いつ、誰の判断で変わったのかは、改変に当たる作業の記録そのものです*1。改変の事実だけでなく、変更前後の挙動の差を残せていると、説明の幅が変わります。

第三に、想定した範囲の記録です。予見可能性が争点として残るため*1、どの範囲を想定して設計したのか、どの入力を想定外として扱ったのかを、設計時点の文書として持っておく意味があります。評価の合格基準と、その基準を選んだ理由まで含めて残す形が実務的です。

第四に、利用の制限を示せる形にすることです。用途の制限、対象外の入力、人の確認を挟む工程。これらを画面や設定として実装し、その状態を記録できるようにしておくと、運用の実態を示せます。改変や記録の突き合わせに使える台帳の作り方は監査ログの設計で扱う考え方が使えます。

記録の保存期間も、あわせて決めておく項目になります。挙動の記録は容量が大きくなりやすく、短い期間で消える設定のまま運用に入ることが少なくありません。どの記録をどれだけ残すのかを、費用と併せて発注者と合意しておくほうが、後から「あの時の応答が残っていない」という事態を避けられます。

この4つは、いずれもAB316が直接求めているものではありません*1。条文が求めているのは、特定の抗弁を主張しないことだけです*1。ただ、残された争点が因果関係と予見可能性と比較過失であるなら*1、そこで使える材料を持っているかどうかが実務の差になります。

契約の側では、責任の分担とデータの扱いを同じ文書で決めておく形が取りやすくなります*1。AIの開発を委託する際に押さえる項目はAI開発契約とデータの扱いで扱う論点が参考になります。

他の制度と並べると、位置づけが見える

最後に、隣接する制度との関係です。

欧州では、製造物責任の枠組みそのものを組み替える方向が採られました。ソフトウェアを製品として扱い、証拠の提示や推定の規定を置く形です。この設計はEU製造物責任指令の改正で扱っています。カリフォルニア州の第1714.46条は、これとは別の入口です*1。責任の成立要件を組み替えるのではなく、既存の過失責任の枠組みの中で、使える抗弁を1つ削る形に留めています*1。

訓練データの透明性を求める規定も、同じ州の別の編にあります*3。民法典第15.2編は、生成AIの開発者に訓練データに関する文書の掲載を求め、掲載すべき事項として当該システムまたはサービスの開発に用いたデータセットの高水準の要約を挙げ、その中にデータセットの出所または所有者を含めるとしています*3。あわせて、掲載を求められない場合として、その専ら唯一の目的がセキュリティおよび完全性を確保することを助けることにあるシステムまたはサービスなどが挙げられています*3。

この2つを並べると、州の作り方が見えてきます*1*3。開発の側には情報の開示を求め、訴訟の側では自律を理由とする抗弁を封じる。どちらも、AIの内部が説明されないまま責任の議論が止まる状態を避ける方向です*1*3。

誤解されやすいのは、AIによる損害について自動的に責任を負うことになったという読み方です。条文は責任の要件を新たに定めておらず、原告が主張と立証を行う構造は変わりません*1。第(c)項が明記したとおり、その他の積極的抗弁、因果関係や予見可能性の証拠、比較過失の証拠は残ります*1。1つの主張を封じただけの条文として読むのが正確です*1。

第(c)(2)項の書き方も、多層の体制では読む値があります*1。条文は他の者または主体の比較過失に関する証拠と書いており、個人だけでなく法人などの主体も対象に含めています*1。基盤モデルの提供元、組み込みを行った事業者、運用した発注者といった関係者が並ぶ構成では、誰のどの行為が問題だったのかを示す材料が争点になります*1。契約で責任の分担を決めていても、事実の側の記録がなければその分担を裏づけられません。

もう1点、適用の場面についても押さえておく値があります*1。第(b)項は当該人工知能が原告に害を生じさせたと主張される訴訟を対象としており、AIが関わらない請求までを扱う条文ではありません*1。AIを使った工程が争点になるかどうかで、この条文が働く場面が決まります*1。

まとめ：AIの抗弁の制限で押さえる3つの視点

米国カリフォルニア州の議会法案316は2025年10月13日に知事の承認を受けて2025年法律第672号となり、民法典に第1714.46条が新設されました。押さえたい視点は三つあります。第一に、封じられた主張の範囲。AIを開発し、改変し、または使用した被告に対する訴訟であって、当該AIが原告に害を生じさせたと主張されるものにおいて、当該AIが自律的に害を生じさせたということは抗弁とならず、被告はこれを主張できません。第二に、残された主張。同条(c)は、因果関係または予見可能性に関する証拠を含むその他の積極的抗弁と、他の者または主体の比較過失に関するその他の証拠について、提出を制限も妨げもしないと明記しました。責任の要件を新しく作る条文ではなく、既存の過失責任の枠組みの中で使える主張を1つ削る形です。第三に、対象となる立場。条文は開発した、改変した、または使用した被告と書いており、作った側に限られません。基盤モデルの提供元、組み込んだ元請、機能を作った下請、業務で使う発注者のうち、AIを開発・改変・使用した者がいずれも同じ制限の下に置かれます。残る争点が因果関係と予見可能性と比較過失であることを踏まえると、挙動の記録、変更の履歴、想定した範囲の記録、利用の制限を示せる状態が、実務上の材料になります。

よくある質問

出典

1. *1　参考：カリフォルニア州議会 議会法案316「Artificial intelligence: defenses.」（2025年法律第672号・2025年10月13日知事承認／州務長官提出・民法典第1714.46条を新設）（https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260AB316）。成立した法文の一次情報として。立法顧問要旨（既存法が意図的な行為の結果と通常の注意の欠如による損害についての責任を定めること、2022年1月1日以後に公開された生成AIシステムの開発者に訓練データに関する文書の掲載を求める既存法があること、本法案がAIを開発・改変・使用した被告にAIが自律的に害を生じさせたという抗弁を禁じること）、および新設された民法典第1714.46条の(a)の定義、(b)の抗弁の禁止、(c)(1)のその他の積極的抗弁と因果関係・予見可能性の証拠、(c)(2)の比較過失の証拠に関する留保を確認した。確認日は2026年9月7日。（2026年9月確認）
2. *2　参考：カリフォルニア州法 民法典 第1714条（意図的な行為および注意の欠如による責任）（https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?lawCode=CIV&sectionNum=1714）。第1714.46条が置かれた文脈として。同条(a)が、意図的な行為の結果のみならず、自己の財産または身体の管理における通常の注意もしくは技能の欠如によって他人に生じさせた損害についても責任を負うと定めていることを確認した。確認日は2026年9月7日。（2026年9月確認）
3. *3　参考：カリフォルニア州法 民法典 第15.2編「人工知能の訓練データの透明性」第3110条・第3111条（https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?lawCode=CIV&sectionNum=3110）。同じ州法における人工知能と開発者、実質的な改変の定義として。第3110条(a)の人工知能の定義、(b)の開発者の定義（設計、コード化、生産または実質的な改変を含むこと）、(c)の生成人工知能の定義、(d)の実質的な改変の定義（再訓練または微調整の結果を含む新しい版・リリース・更新であって機能または性能を実質的に変更するもの）、(f)の訓練に試験・検証・微調整を含む旨、および第3111条(a)が求めるデータセットの高水準の要約とその項目、(b)が掲載を求めない場合を挙げていることを確認した。いずれも2024年法律第817号（AB2013）により追加され、2025年1月1日から効力を生じている。確認日は2026年9月7日。（2026年9月確認）

Tweet