LASSIC Media らしくメディア

監修・編集責任者：牛尾 昭昌（株式会社LASSIC 執行役員）

対話型のAIを載せた製品では、表示の設計が後回しになりがちです。応答の品質を詰めることに時間が向き、「これはAIです」と伝える文言は最後に足されます。ところが法律の側は、その表示のほうを先に義務として書き始めました。

米国カリフォルニア州の上院法案243「コンパニオンチャットボット」は、2025年10月13日に知事の承認を受け、2025年法律第677号となりました*1。事業・専門職法典第8編に第22.6章（第22601条から第22606条）を新設する内容です*1。

対話型AIを実装する立場から見ると、論点は4つに整理できます。どこまでが対象なのか、何を表示するのか、未成年に対して何が加わるのか、違反したときに誰が何を請求できるのか。法文から順に見ていきます。

対象の線引きは「関係が続くか」で引かれた

まず、どのボットが対象になるかです*1。

第22601条(b)(1)の定義は、機能ではなく関わり方で書かれています*1。コンパニオンチャットボットとは、自然言語による接面を備え、利用者の入力に対して適応的で人間らしい応答を提供し、擬人的な特徴を示すことや複数回のやりとりにわたって関係を維持できることを含め、利用者の社会的な欲求を満たすことができる人工知能システムをいうとされました*1。

ここで軸になるのが複数回のやりとりにわたって関係を維持できるという条件です*1。1回で完結する応答ではなく、続きを持つ会話が対象になります*1。過去の発話を覚えて次の応答に反映する仕組みを入れた時点で、この条件に近づくという読み方になります*1。

定義がもう1つ置かれている点にも注意が要ります*1。人工知能は自律性の水準が様々である、設計され、または機械に基づくシステムであって、明示的または黙示的な目的のために、受け取った入力から、物理的または仮想的な環境に影響を与えうる出力をどのように生成するかを推論できるものと定義されました*1。生成の方式や規模を条件にしていないため、大規模なモデルを使っているかどうかは切り分けの基準になりません*1。

そのうえで、外れるものが3つ明記されました*1。

実装の観点で読むと、①の除外は狭く書かれています*1。のみ使用されるという限定があるため、問い合わせ対応の窓口として作ったボットに雑談の応答を足すと、除外の条件から外れる方向に動きます*1。②の除外も同じ構造で、扱えない話題が具体的に列挙されました*1。有人対応への切り替えを含む設計はAIチャットボットの有人切替で扱う考え方が土台になります。

用語の範囲も条文で固定されています*1。プラットフォームは利用者がコンパニオンチャットボットとやりとりできるプラットフォーム、事業者は州内の利用者にコンパニオンチャットボットプラットフォームを利用可能にする者という定義です*1。州内の利用者に提供していれば、事業者の所在地は条件になっていません*1。日本から提供しているサービスであっても、州内の利用者が使える状態にしているなら、事業者に当たりうるという読み方になります*1。

表示は条件つき、危機対応の手順は稼働の前提

次に、全利用者に向けた2つの義務です*1。

1つ目は表示です*1。第22602条(a)はコンパニオンチャットボットとやりとりする合理的な人が、人間とやりとりしていると誤信させられるであろう場合、事業者は、当該コンパニオンチャットボットが人工的に生成されたものであり人間ではない旨を示す、明瞭かつ目立つ通知を発しなければならないと定めます*1。

無条件の表示義務ではありません*1。合理的な人が誤信させられるであろう場合という条件が先に立ちます*1。逆に言えば、人間らしさを高める設計ほど条件に該当しやすくなるという関係です*1。アバターや名前、返答の間合いといった要素を足すたびに、表示の必要性が上がる方向に動きます*1。同じ州の表示に関する規律はカリフォルニア州のAI透明性法で扱う枠組みと並びます。

2つ目が、稼働そのものの前提条件です*1。第22602条(b)(1)は事業者は、自殺念慮、自殺または自傷に関する内容の生成を防ぐための手順を維持していない限り、自らのプラットフォーム上のコンパニオンチャットボットが利用者とやりとりすることを防がなければならないと定めました*1。

手順の中身も例示されています*1。利用者が自殺念慮、自殺または自傷を表明した場合に、自殺予防のホットラインまたは危機対応のテキスト回線を含む危機支援の提供者を案内する通知を利用者に提供することを含むが、これに限らないという書き方です*1。

そして第22602条(b)(2)が、公表を求めます*1。事業者は、この項が求める手順の詳細を、自らのインターネットのウェブサイト上で公表しなければならないとされました*1。社内に手順書があるだけでは条文を満たしません*1。外から読める形にすることまでが義務です*1。

通知の質についても、条文は言葉を選んでいます*1。第22602条(a)で求められるのは明瞭かつ目立つ通知であり、同条(c)(2)の未成年向けの通知にも同じ明瞭かつ目立つという語が使われました*1。利用規約の中に一文を入れておく形は、この語の求める水準から離れます*1。会話の画面上で読める位置に置くことが前提になります*1。

この構造は、実装の順序に影響します*1。表示の文言は後から足せますが、検知と案内の手順は応答の生成経路そのものに関わります*1。生成前後の検査をどこに置くかという設計は生成AIのガードレールで扱う実装と重なります。

未成年と分かる利用者には、3つが上乗せされる

第22602条(c)は、対象を限定したうえで3つの義務を足しました*1。

条件は事業者が未成年であると知っている利用者についてです*1。年齢確認そのものを義務づける条文ではなく、知っている場合に発動する形になっています*1。

②に付いた既定でという言葉が、実装の判断を分けます*1。利用者が設定で有効にできる、では条件を満たしません*1。初期状態で有効であり、そこから外す方向の操作があってもよい、という読み方になります*1。子ども向け機能の初期値をどう置くかという論点は保護者向け機能の設計で扱う判断と共通します。

通知の内容が2つ重なっている点も見落とせません*1。休憩を促すことと、人間ではないことを知らせることの両方が、同じ通知に求められています*1。3時間の連続でどちらか一方だけを出す実装では足りません*1。

加えて第22604条が、プラットフォーム全体の開示を定めます*1。事業者は、利用者がコンパニオンチャットボットプラットフォームにアクセスするために使用できるアプリケーション、ブラウザその他の形式において、コンパニオンチャットボットが一部の未成年には適さない場合があることを、当該プラットフォームの利用者に開示しなければならないという条文です*1。

この開示は、未成年と分かっている利用者に限られていません*1。アクセスの入口ごとに置くことが求められており、アプリとウェブの双方を提供している場合は両方に必要になります*1。米国連邦の子ども向けの規律との重なりは改正COPPA規則で扱う同意の枠組みと合わせて見ると整理しやすくなります。

2027年7月からの年次報告と、1違反1,000ドルの民事責任

報告と責任の条文は、期日と金額が具体的です*1。

第22603条(a)は2027年7月1日から、事業者は毎年、次の事項を局に報告しなければならないと定めます*1。ここでいう局は、ヘルス・アンド・セーフティ・コード第131300条に基づいて設置された自殺予防局です*1。報告する事項は3つで、前暦年において第22602条に基づき危機支援の提供者を案内する通知を発した回数、利用者による自殺念慮の表明を検知し、除去し、対応するために設けた手順、利用者との間で自殺念慮または行為に関するコンパニオンチャットボットの応答を禁じるために設けた手順です*1。

報告に含めてはならないものも書かれました*1。この条が求める報告は(a)に列挙された情報のみを含むものとし、利用者に関する識別子または個人情報を含めてはならないとされています*1。件数と手順だけを出す設計です*1。そのうえで局は、この条が求める報告のデータを自らのウェブサイト上に掲載するとされ、公表されることが前提になっています*1。

測り方にも条件が付きました*1。事業者は、自殺念慮を測定するために、根拠に基づく方法を用いなければならないという条文です*1。回数を報告する以上、何をもって1件と数えるかの根拠が要るという建て付けになります*1。

責任の側は、行政処分ではなく私訴で組まれています*1。第22605条はこの章の違反の結果として現実に損害を被った者は、次のすべての救済を求める民事訴訟を提起することができるとし、差止めによる救済、実損害または1違反あたり1,000ドルのいずれか大きい額の損害賠償、合理的な弁護士費用および訴訟費用を挙げました*1。

1違反あたりという数え方なので、通知の欠落が利用者ごと、あるいは場面ごとに積み上がると、金額は件数に比例して増えます*1。設計上は、通知を出したことの記録をどこに残すかが、そのまま反証の材料になります*1。

報告の開始時期と、義務の開始時期が別である点も押さえておきたいところです*1。表示や手順の維持は法律の効力とともに始まりますが、報告は2027年7月1日から、しかも前暦年の実績を出す形です*1。つまり最初の報告に載る数字は、それより前の期間に記録されたものになります*1。ログの保存期間を短く設定していると、報告の段になって元データが残っていない、という事態が起こりえます*1。

最後に第22606条が、他法との関係を整理しました*1。この章が課す義務、救済および責務は、他の法律により課される義務、救済または責務に累積的なものであり、他の法律により課される義務、救済または責務から事業者を免れさせるものと解してはならないという条文です*1。あわせて、法律の各規定は可分であり、ある規定が無効とされても他の規定には影響しないという分離条項も置かれました*1。

自社の対話型AIに置き換える5つの論点

州法ですが、対話型AIを載せる製品の設計論点として読み替えられます。

第一に、除外に留まる設計かどうかを決めることです。顧客対応や業務目的のみに使うボットは対象から外れます*1。雑談への応答や関係を続ける仕掛けを足すと、この除外の外へ出る方向に動きます。機能追加の判断に、対象になるかどうかの確認を挟むと、後戻りが減ります。

第二に、表示を条件つきの要件として実装することです。義務が生じるのは合理的な人が人間と誤信させられるであろう場合です*1。この判断は画面ごとに変わります。アバターや名前を使う画面と、素の応答だけの画面とで表示の要否が分かれるため、画面単位で必要性を持たせる作りにしておくと、後から一律に足す手戻りを避けられます。

第三に、危機対応の手順を稼働条件として扱うことです。条文は、手順を維持していない限りやりとりを防がなければならないと書きました*1。機能フラグの設計として、手順の存在と稼働の可否を結びつけておくと、条文の構造と実装が一致します。公表義務があるため、社内文書とは別に外部公開用の記述も要ります*1。

第四に、未成年の判定結果を保持することです。3つの上乗せは事業者が未成年であると知っている利用者に発動します*1。年齢の情報をどこで得て、どこに持ち、どの経路で参照するかが決まっていないと、3時間ごとの通知も既定で有効にできません。会話の継続時間を測る仕組みも別途必要になります。

第五に、通知の実行を数えられる形で残すことです。2027年7月からの報告は案内する通知を発した回数を含みます*1。件数を後から集計するには、通知の実行がログとして残っている必要があります。個人情報を含めない報告が前提なので、識別子を含まない集計値として取り出せる設計にしておくと、後の作業が短くなります*1。

誤解されやすいのは、年齢確認を実装しなければならないという読み方です。第22602条(c)は、未成年であると知っている利用者について義務を課す形であり、年齢の確認手段そのものを規定してはいません*1。ただし第22604条の開示は利用者を限定していないため、入口の表示は全員に向けて必要になります*1。実装の作り込みはアプリへのAIチャットボット搭載で扱う工程に、この2つの区別を足す形になります。

まとめ：コンパニオンチャットボット法で押さえる3つの視点

米国カリフォルニア州の上院法案243は2025年10月13日に知事の承認を受けて2025年法律第677号となり、事業・専門職法典第8編に第22.6章が新設されました。押さえたい視点は三つあります。第一に、対象の線引き。コンパニオンチャットボットは、自然言語の接面を持ち、適応的で人間らしい応答を返し、擬人的な特徴を示すことや複数回のやりとりにわたって関係を維持できることを含め、利用者の社会的な欲求を満たしうる人工知能システムと定義されました。外れるのは、顧客対応や業務上の目的などにのみ使用されるボット、ゲームに関する返答に限られゲームと無関係な話題で対話を続けられないボット、そして関係を維持せず情緒的な反応を引き出しやすい出力も生成しない音声操作の単体機器の3つです。第二に、義務の重なり方。全利用者に対しては、合理的な人が人間と誤信させられるであろう場合の通知と、自殺念慮や自傷に関する内容の生成を防ぐ手順の維持およびその公表が求められます。未成年であると事業者が知っている利用者には、人工知能とやりとりしている旨の開示、既定で少なくとも3時間ごとの休憩と非人間である旨の通知、性的に露骨な内容を防ぐ合理的な措置が上乗せされます。第三に、報告と責任。2027年7月1日から自殺予防局への年次報告が始まり、通知を発した回数と2種類の手順を、識別子や個人情報を含めずに報告します。違反により現実に損害を被った者は、差止め、実損害または1違反あたり1,000ドルのいずれか大きい額、および弁護士費用と訴訟費用を求めて民事訴訟を提起できます。

よくある質問

出典

1. *1　参考：カリフォルニア州議会 上院法案243「Companion chatbots.」（2025年法律第677号・2025年10月13日知事承認／州務長官提出・事業・専門職法典第22.6章）（https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB243）。成立した法文の一次情報として。第22601条の定義（人工知能、コンパニオンチャットボットと3つの除外、プラットフォーム、局、事業者、性的に露骨な行為、ビデオゲーム）、第22602条(a)の誤信させられる場合の通知義務、同条(b)の手順の維持とウェブサイトでの公表、同条(c)の未成年に対する3つの義務（開示、既定で少なくとも3時間ごとの通知、性的に露骨な内容を防ぐ合理的な措置）、第22603条の2027年7月1日からの年次報告3項目と識別子・個人情報の除外および局による掲載と根拠に基づく測定、第22604条のアクセス形式ごとの開示、第22605条の民事訴訟による3つの救済（差止め、実損害または1違反あたり1,000ドルのいずれか大きい額、弁護士費用と訴訟費用）、第22606条の累積的な義務、ならびに分離条項を確認した。確認日は2026年9月7日。（2026年9月確認）

Tweet