LASSIC Media らしくメディア

監修・編集責任者：牛尾 昭昌（株式会社LASSIC 執行役員）

医療の領域で対話型のAIを組み込むとき、機能の中身より先に決めておく必要があるのが、画面上の名乗りです。何と呼ばせるか、どんな肩書を添えるかが、規制の対象になる場合があります。

米国カリフォルニア州の議会法案489は、その線を条文で引きました。2025年10月11日に知事の承認を受けて2025年法律第615号となり、事業・専門職法典の第2編に第15.5章「人工知能による健康上の助言」（第4999.8条から）を新設しています*1。新しい禁止語を作るのではなく、もとからある禁止をAIへ届かせる構造です*1。

確かめたい点は4つあります。誰が対象になるのか、どの語が禁じられるのか、広告と機能はどう違うのか、違反の数はどう数えられるのか。法文から順に見ていきます。

新しい章は、既存の禁止をAIへ届かせるための器

まず、条文の置かれ方です*1。

新設された第4999.8条は、3つの定義から始まります*1。人工知能またはAIは、政府法典第11546.45.5条に定めるものと同じ意味を持つ、生成人工知能またはGenAIは、政府法典第11549.64条に定めるものと同じ意味を持つ、そして医療専門職とは、この編にもとづき、またはこの編で言及される発議法にもとづいて免許または規制の対象となるすべての職業を意味するという書き方です*1。

参照先の定義も押さえておく値があります*2。政府法典第11549.64条は生成人工知能またはGenAIとは、システムの訓練データの構造および特徴を模した、テキスト、画像、映像および音声を含む派生的な合成コンテンツを生成できる人工知能システムとし、同条は人を自然人と定義しています*2。人工知能については、政府法典第11546.45.5条が自律性の水準が一様でない、工学的または機械にもとづくシステムであって、明示的または黙示的な目的のために、受け取った入力から、物理的または仮想的な環境に影響を与えうる出力をどのように生成するかを推論できるものと定めます*3。

医療専門職の定義がこの編にもとづき免許または規制の対象となるすべての職業と広く取られている点は、実装の範囲に関わります*1。医師だけでなく、看護、歯科、薬剤、心理、理学療法など、事業・専門職法典第2編が扱う職業の名称がすべて視野に入る書き方です*1。

執行の主体も条文にあります*1。第4999.9条(a)(1)はこの章の違反は、しかるべき医療専門職の免許委員会または執行機関の管轄に服するとし、同(a)(2)はしかるべき医療専門職の免許委員会は、第125.5条により認められるとおり、この章の規定を執行するために差止命令または抑止命令を求めることができると続けます*1。同(a)(3)はこの条のいかなる規定も、法律上認められる他の救済手段を求める権限を制限しないと定めました*1。

参照される第125.5条は、消費者事務局内の委員会が、局長の承認を得て申立てを行い、上位裁判所が当該行為を制限する差止命令その他の適切な命令を発することができる旨を定めています*4。あわせて、被害者への返還の命令や、調査費用の償還を命じることも認められています*4。日本国内の医療広告に関する規制との考え方の違いは医療広告ガイドラインで扱う枠組みと並べると見えやすくなります。

禁じられるのは、免許を示す語そのもの

次に、どの語が問題になるかです*1。

第4999.9条(b)は免許または証明を保有していないにもかかわらず、医療専門職を実施するための免許または証明の保有を示し、または暗示するために、特定の語、文字または語句の使用を禁じるこの編のいかなる規定も、人工知能もしくは生成人工知能のシステム、プログラム、機器またはこれに類する技術の広告または機能において、それらの語、文字もしくは語句の1つ以上を使用するシステムまたは機器を開発し、または展開する者もしくは主体に対して執行可能であると定めます*1。

つまり、禁止語の一覧はこの章に書かれていません*1。もとからある各職業の規定を、そのままAIへ向けて使えるようにした構造です*1。医師について定めた第2054条を例に取ると、禁じられる語が具体的に並んでいます*5。

同条(a)は看板、名刺、レターヘッドまたは広告において、「doctor」もしくは「physician」の語、「Dr.」の文字もしくは接頭辞、「M.D.」もしくは「D.O.」の頭字語、またはその者が医師および外科医、医師、外科医もしくは施術者であること、あるいはこの法律にもとづき施術する資格があることを示し、または暗示するその他の語もしくは文字を使用する者が、有効な免許を持たずにそれを行った場合、軽罪に当たると定めます*5。

さらに同条は、医療の場面についても線を引いています*5。いかなる者も、合理的な患者がその者を免許を受けた「M.D.」または「D.O.」であると判断するに至るような医療の場面において、「doctor」もしくは「physician」の語、「Dr.」の文字もしくは接頭辞、「M.D.」もしくは「D.O.」の頭字語、またはその者が医師および外科医、医師、外科医もしくは施術者であることを示し、または暗示するその他の語もしくは文字を使用してはならないという一文です*5。

実装から見ると、注意が要るのは暗示するその他の語という受け皿です*5。名指しされた語を辞書で弾くだけでは足りず、肩書やペルソナの設計そのものが判断の対象になります*1。生成した文章の中に肩書が現れる経路もあるため、出力の検査は入力の検査とは別に要ります。出力を評価する枠組みの作り方はLLMの評価で扱う設計が土台になります。

「広告または機能」は、画面の中の名乗りも含む

射程を決めるもう1つの語が広告または機能です*1。

第4999.9条(c)は、禁止の中身を独立して書き下しました*1。AIもしくは生成AIのシステム、プログラム、機器またはこれに類する技術の広告または機能において、当該のAIもしくは生成AIの技術を通じて提供されるケア、助言、報告または評価が、医療専門職として施術するためのしかるべき免許または証明を保有する自然人によって提供されていることを示し、または暗示する語、文字または語句を使用することは、禁止されるという条文です*1。

示す対象が4つ並んでいる点が実務では効いてきます*1。ケア、助言、報告、評価です*1。要約レポートや所見のような出力も、この4つに含まれる形で書かれています*1。

機能という語が置かれたことで、対象は宣伝文だけに留まりません*1。画面上の表示名、アイコンの下に添える肩書、応答の署名、自己紹介の文面、返信の定型句といった、製品の内側の要素が入ってきます*1。対話型の機能を作る際の作り分けはチャットボットの実装で扱う構成と重なります。

そして第4999.9条(d)が、数え方を定めます*1。禁止された語、文字または語句の各使用が、この章の別個の違反を構成するものとするという一文です*1。表示の回数がそのまま件数になる書き方であり、テンプレートに1か所混ざっているだけでも、表示された回数だけ積み上がる構造です*1。

この数え方は、修正の優先順位にも関わります*1。個別の応答よりも、繰り返し使われるテンプレートや定型の文言のほうが、件数の伸びが大きくなります*1。生成AIを組み込む工程の全体像は生成AIの導入で扱う流れが参考になります。

対象となる主体も、開発と展開の両方です*1。第(b)項は開発し、または展開する者もしくは主体と書いており、自社で作った場合と、他社の製品を組み込んで提供する場合の双方が視野に入ります*1。受託の立場では、納入したシステムの表示文言を誰が決めたのかが、責任の分担の議論に直結します。

隣にある表示義務は、媒体ごとに置き場所が違う

この章の1つ手前の制度も、あわせて見ておく値があります*6。

健康・保安法典第1339.75条は患者の臨床情報に関する書面または口頭の患者向け連絡を生成するために生成人工知能を用いる医療施設、クリニック、医師の診療所またはグループ診療の診療所は、それらの連絡が次の両方を含むことを確保するものとすると定めます*6。1つは当該連絡が生成人工知能によって生成されたことを患者へ示す但し書き、もう1つは患者が人である医療提供者、施設の従業員その他のしかるべき者へ連絡する方法を説明する明確な指示です*6。

但し書きの置き場所は、媒体ごとに指定されました*6。

適用されない場合も置かれています*6。同条(b)は連絡が生成人工知能によって生成され、免許または認証を受けた人である医療提供者が読み、確認した場合には、(a)の要件は適用されないと定めました*6。人が確認する経路を通すかどうかで、表示の要否が変わる設計です*6。

対象となる情報の範囲も定義されています*6。患者の臨床情報とは、患者の健康状態に関する情報を意味する。この情報には、予約の調整、請求その他の事務的または営業上の事項を含む管理的な事項は含まれないとされました*6。予約や請求の自動応答は、この条の表示義務の対象外という切り方です*6。

人へ引き継ぐ経路を用意する要件は、AB489の名乗りの制限と組み合わせると設計の方向が見えてきます*1*6。AIが人の資格を暗示する表示を避けつつ、人へ渡す道を明示する。この2つを同じ画面で成立させる作り方は有人への引き継ぎ設計で扱う仕組みと共通します。

受託側が先に決めておくとよい4点

2つの制度を実装の言葉に置き換えると、決めておく項目は次のように整理できます。

第一に、表示文言の棚卸しです。禁止語の各使用が別個の違反を構成します*1。画面の表示名、アイコンの説明、応答の署名、通知の件名、ヘルプの文面、アプリストアの説明文まで、文言が置かれている場所を先に一覧化しておくと、修正の範囲が読めます。

第二に、ペルソナの設計を規制の側から決めることです。条文は名指しされた語だけでなく、資格の保有を暗示する語も対象にします*5。人名風の表示名に医療系の肩書を添える形は、この受け皿に触れやすくなります。役割を説明する言い方に寄せるほうが、後の手戻りが小さくなります。

第三に、出力の側に検査を置くことです。生成された文章の中に肩書が現れる経路は、入力の検査では止まりません*1。応答を返す前に、禁止語と、資格を暗示する言い方を検出する処理を通す構成が要ります。検出したときに何を返すかも、あらかじめ決めておく項目です。

第四に、表示義務の実装を媒体ごとに分けることです。第1339.75条の但し書きは、書面は冒頭、継続的な対話と映像は表示し続ける、音声は開始時と終了時と、置き場所が媒体で違います*6。1つの共通部品で済ませようとすると、どこかの媒体で要件から外れます。人が確認した場合の除外を使うのであれば、確認したことを記録する経路も要ります*6。

誤解されやすいのは、医療分野でAIを使えなくなったという読み方です。AB489が禁じたのは、資格の保有を示し、または暗示する語の使用です*1。AIによるケアや助言そのものを止める条文ではありません*1。何を名乗るかと、人へどう渡すかの設計の問題として読むほうが正確です*1*6。

もう1点、償還についての一文も条文に置かれています*1。この法律は新しい犯罪もしくは違反行為を創設し、犯罪もしくは違反行為を廃止し、または犯罪もしくは違反行為に対する刑罰を変更するものであるため、州憲法の規定にもとづく償還は求められないとされました*1。既存の犯罪の範囲を広げる形の立法だという位置づけが、ここに表れています*1。

まとめ：医療AIの名乗りで押さえる3つの視点

米国カリフォルニア州の議会法案489は2025年10月11日に知事の承認を受けて2025年法律第615号となり、事業・専門職法典の第2編に第15.5章「人工知能による健康上の助言」が新設されました。押さえたい視点は三つあります。第一に、条文の作り。新しい禁止語の一覧を作るのではなく、免許または証明の保有を示し、または暗示する語の使用を禁じる既存の規定を、AIまたは生成AIのシステムを開発し、または展開する者・主体に対して執行可能にする形が採られました。医師について定めた第2054条であれば、「doctor」「physician」の語、「Dr.」の文字・接頭辞、「M.D.」「D.O.」の頭字語と、資格を暗示するその他の語が対象になります。第二に、射程と数え方。禁止は広告に加えて機能にも及び、AIを通じて提供されるケア、助言、報告または評価が免許を持つ自然人によって提供されていると示す表示が禁じられます。そして禁止語の各使用が別個の違反を構成します。第三に、隣にある表示義務。健康・保安法典第1339.75条は、生成AIが患者の臨床情報に関する連絡を作る場合に、生成AI由来である旨の但し書きと、人へ連絡する方法の明確な指示を求めます。但し書きの置き場所は書面が冒頭、継続的な対話と映像は表示し続ける、音声は開始時と終了時と媒体ごとに分かれ、人である医療提供者が読んで確認した場合には適用されません。

よくある質問

出典

1. *1　参考：カリフォルニア州議会 議会法案489「Health care professions: deceptive terms or letters: artificial intelligence.」（2025年法律第615号・2025年10月11日知事承認／州務長官提出・事業・専門職法典第2編に第15.5章を追加）（https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260AB489）。成立した法文の一次情報として。立法顧問要旨（既存法が無免許者による特定の語の使用を犯罪としていること、AB3030による患者向け連絡の但し書きの要件、本法案が既存の禁止をAIまたは生成AIを開発・展開する主体に対して執行可能とすること、各使用が別個の違反となること、償還が不要とされる理由）、および新設された第4999.8条の3つの定義と第4999.9条(a)から(d)までの規定を確認した。確認日は2026年9月7日。（2026年9月確認）
2. *2　参考：カリフォルニア州法 政府法典 第11549.64条（第5.9章「生成人工知能ツール」の定義）（https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?lawCode=GOV&sectionNum=11549.64）。AB489が参照する生成人工知能の定義として。人工知能、生成人工知能、人（自然人）および報告の定義と、2024年法律第928号（SB896）により追加され2025年1月1日から効力を生じた旨を確認した。確認日は2026年9月7日。（2026年9月確認）
3. *3　参考：カリフォルニア州法 政府法典 第11546.45.5条（自動意思決定システムの棚卸し）（https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?lawCode=GOV&sectionNum=11546.45.5）。AB489が参照する人工知能の定義として。同条(a)(1)の人工知能の定義、および同条が自動意思決定システムと高リスク自動意思決定システムを別に定義していることを確認した。確認日は2026年9月7日。（2026年9月確認）
4. *4　参考：カリフォルニア州法 事業・専門職法典 第125.5条（差止命令・返還・調査費用の償還）（https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?lawCode=BPC&sectionNum=125.5）。免許委員会が求められる救済の内容として。局長の承認を得た申立てにより上位裁判所が差止命令その他の適切な命令を発することができること、被害者への返還を命じられること、調査費用の償還を命じられること、およびこの救済が他の権限を制限しないことを確認した。確認日は2026年9月7日。（2026年9月確認）
5. *5　参考：カリフォルニア州法 事業・専門職法典 第2054条（医師の名称の使用の制限）（https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?lawCode=BPC&sectionNum=2054）。AB489が射程に取り込む既存の禁止の例として。同条(a)が挙げる語・文字・頭字語と、医療の場面における合理的な患者の基準、および同条(b)の5つの除外を確認した。確認日は2026年9月7日。（2026年9月確認）
6. *6　参考：カリフォルニア州法 健康・保安法典 第1339.75条（医療サービスにおける人工知能）（https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?lawCode=HSC&sectionNum=1339.75）。生成AIによる患者向け連絡の表示義務として。同条(a)(1)の媒体別の置き場所（書面は冒頭、継続的なオンラインの対話は対話中ずっと、音声は開始時と終了時、映像は対話中ずっと）、同(a)(2)の人へ連絡する方法の指示、同(b)の人である医療提供者が読んで確認した場合の除外、同(c)の定義（患者の臨床情報に管理的な事項を含まないこと）、同(d)の執行を確認した。確認日は2026年9月7日。（2026年9月確認）

Tweet