LASSIC Media らしくメディア

監修・編集責任者：牛尾 昭昌（株式会社LASSIC 執行役員）

採用や昇進の判断にツールを使うなら、先に監査を通しておく。そう定めた条例が、ニューヨーク市にあります*1。

2021年のLocal Law 144です*1。市の消費者・労働者保護局（DCWP）は、この法律と規則の執行を2023年7月5日から開始しています*1。雇用主と職業紹介機関に対し、使用の1年以内にバイアス監査を受けていないAEDT（自動雇用意思決定ツール）の使用を禁じ、監査に関する情報を公に利用可能にし、従業員や求職者へ一定の通知を行うことを求める内容です*1。

米国で採用を行っている企業と、採用や人事のシステムを受託して作る立場に向けて、規則から読み取れる要件を整理します。制度の当てはめは事情によりますので、法務の確認を経て進めてください。

何がAEDTに当たるのか

まず範囲です*2。

規則第5-300条は、AEDTを市の行政法典第20-870条の定義によるとしつつ、その中の「裁量的な意思決定を実質的に補助または代替する（to substantially assist or replace discretionary decision making）」という語句の意味を、次の三つに限定しています*2。

(i) 他の要素を一切考慮せず、簡略化された出力（スコア、タグ、分類、順位など）のみに依拠すること*2。(ii) 簡略化された出力を複数の基準の一つとして用い、その簡略化された出力に他のどの基準よりも大きい重みを置くこと*2。(iii) 人による意思決定を含む他の要素から導かれた結論を覆すために、簡略化された出力を用いること*2。

この三つの書き方は、実装への手がかりになります。スコアを出していても、それが複数の基準のうちで最も重く扱われておらず、人の判断を覆す使い方もしていなければ、この定義には当たらないという読み方ができます*2。逆に、点数の高い順に並べて上から面談を組む運用は(i)や(ii)に当たりやすくなります*2。

もう一つの定義も押さえておきます*2。「機械学習、統計モデリング、データ分析、または人工知能」は、次の二つを満たす数学的・コンピュータベースの技術の総称とされています*2。予測（ある観測に対する期待される結果。候補者の適合度や成功の見込みの評価など）または分類（観測を集団へ割り当てること。スキルセットや適性に基づく区分など）を生成すること*2。そして、予測または分類の精度を高めるために、コンピュータが少なくとも部分的に、入力・それらの入力に置かれる相対的な重要度・該当する場合は他のパラメータを特定することです*2。

「コンピュータが重みを決める」という要件が入っている点が特徴です*2。人が重みを決め打ちした単純な採点表は、この定義から外れる余地があります*2。

「スクリーンする」も定義されています*2。求職者または昇進を検討されている従業員について、採用または昇進の過程で選抜されるべきか、あるいは先に進めるべきかについて決定を行うことです*2。

AIを使った採用の仕組みそのものの設計は、AIガバナンス体制の構築で扱う論点と重なります。ここで違うのは、外部の監査人を通すことが条例上の要件になっている点です*2。

バイアス監査で何を計算するのか

規則第5-301条が監査の中身です*2。

まず期限です*2。第5-301条(a)は、直近のバイアス監査から1年を超えている場合、雇用主または職業紹介機関はそのAEDTを使用または継続使用してはならないとしています*2。1年ごとに更新する運用になります*2。

算出する数値は、AEDTの使い方によって二つに分かれます*2。

用語も規則が定めています*2。選抜率は、ある区分の個人がAEDTによって採用過程を先へ進むよう選抜される、または分類を付与される率で、当該区分で先へ進んだ人数または分類を付与された人数を、応募したか昇進を検討された当該区分の総人数で割って算出できるとされています*2。

スコア率は、ある区分の個人が、AEDTによって算出されたスコアについて、標本の中位スコアを上回るスコアを受け取る率です*2。

影響比率は二つの形で定義されています*2。ある区分の選抜率を、最も多く選抜された区分の選抜率で割ったもの*2。または、ある区分のスコア率を、最もスコア率の高い区分のスコア率で割ったものです*2。

区分そのものも条例の外から借りてきています*2。「区分（Category）」は、合衆国法典第42編第2000e-8条(c)に基づき雇用主が報告することを求められるコンポーネント1の区分で、連邦規則集第29編第1602.7部に定めるもの、すなわち雇用機会均等委員会（EEOC）の雇用主情報報告書EEO-1に定められた区分とされています*2。

ここが日本企業にとっての実務上の壁になります。EEO-1の区分で人数を集計できる状態になっているかが前提になるためです*2。応募者の性別や人種・民族の申告を任意で集めていない場合、監査に必要な集計ができません*2。

ただし、小さすぎる区分には配慮があります*2。第5-301条(d)は、独立監査人が監査に用いるデータの2%未満を占める区分を、影響比率の算出から除外できるとしています*2。除外した場合、結果の要約には独立監査人による除外の正当化理由と、除外された区分の応募者数およびスコア率または選抜率を含めることとされています*2。

独立監査人の要件も定義されています*2。AEDTのバイアス監査の範囲内のすべての論点について、客観的で公平な判断を行うことができる者または集団とされ、次のいずれかに当たる者は独立監査人ではないとされています*2。当該AEDTの使用、開発、または配布に関与している、または関与していた者*2。バイアス監査の期間中のいずれかの時点で、当該AEDTを使用または継続使用しようとする雇用主・職業紹介機関、あるいは当該AEDTを開発または配布したベンダーと雇用関係にある者*2。そして、バイアス監査の期間中のいずれかの時点で、それらの雇用主・職業紹介機関やベンダーに直接的な財務上の利害、または重要な間接的な財務上の利害を有する者です*2。

監査に使うデータと、公表・通知

監査に使うデータには条件があります*2。規則第5-302条(a)は、バイアス監査が当該AEDTの履歴データを用いなければならないとしています*2。履歴データは、当該AEDTを使用する一つ以上の雇用主または職業紹介機関のものでよいとされています*2。

ただし、個々の雇用主・職業紹介機関が他社の履歴データを用いた監査に依拠できるのは、次の場合に限られます*2。自社によるAEDTの使用から得た履歴データを、監査を行う独立監査人に提供した場合*2。または、当該AEDTを一度も使用したことがない場合です*2。

テストデータも認められています*2。第5-302条(b)は、統計的に有意なバイアス監査を行うために十分な履歴データが利用できない場合、テストデータを用いた監査に依拠できるとしています*2。その場合、結果の要約にはなぜ履歴データを用いなかったのかの説明と、用いたテストデータがどのように生成・取得されたかの記述を含めることとされています*2。

規則には例も置かれています*2。3年間AEDTを使ってきて統計的に有意なデータを持つ雇用主は、自社の履歴データを提供すれば複数の雇用主の履歴データを用いた監査に依拠でき、自社データのみの監査にも依拠できるが、テストデータを用いた監査には依拠できないとされています*2。使い込むほど、自社のデータを出す必要が生じる構造です*2。

公表は規則第5-303条です*2。AEDTの使用の前に、市内の雇用主または職業紹介機関は、自社ウェブサイトの採用（employment）セクションに、明確かつ目立つ形で次を公に利用可能にすることとされています*2。

直近のバイアス監査の日付と結果の要約。要約には、監査に用いたデータの出所と説明、AEDTが評価した個人のうち不明区分に当たる人数、応募者または候補者の数、該当する選抜率またはスコア率、そしてすべての区分の影響比率を含めることとされています*2。あわせて、AEDTの配布日（distribution date）です*2。配布日は、雇用主または職業紹介機関が当該AEDTの使用を開始した日とされています*2。

ハイパーリンクによる方法も認められています*2。第5-303条(b)は、要求される結果の要約と配布日を含むウェブサイトへの有効なハイパーリンクで足りるとし、そのリンクがバイアス監査の結果へのリンクであることが明確に示されていることを条件としています*2。

掲示の期間もあります*2。第5-303条(c)は、雇用の決定のために当該AEDTを最後に使用した後6か月以上、結果の要約と配布日を掲示し続けることとしています*2。使うのをやめても、すぐには消せません*2。

通知は規則第5-304条です*2。市内に居住する求職者への通知は、次のいずれかによって行えるとされています*2。自社ウェブサイトの採用セクションに、明確かつ目立つ形で、AEDTの使用の10営業日以上前に掲示すること*2。求人票に、AEDTの使用の10営業日以上前に記載すること*2。または、郵便または電子メールにより、AEDTの使用の10営業日以上前に通知することです*2。

昇進を検討されている従業員への通知も同様に三つの方法が示されています*2。従業員に提供される書面の方針または手続に、AEDTの使用の10営業日以上前に記載すること*2。求人票への記載*2。郵便または電子メールによる通知です*2。

通知に含める内容もあります*2。第5-304条(a)は、通知に代替の選抜手続または他の法律に基づく合理的配慮を、利用可能な場合にどう請求できるかの指示を含めることとしています*2。ただし、この規則が代替の選抜手続の提供を義務づけるものではないと明記されています*2。

そしてデータに関する開示です*2。第5-304条(d)は、自社ウェブサイトの採用セクションに明確かつ目立つ形で、AEDTのデータ保持方針、AEDTのために収集するデータの種類、データの出所についての情報を掲示することとし、そうした情報について書面で請求する方法の指示を掲示し、書面の請求を受けた場合は30日以内に情報を提供することとしています*2。

着手の順序と、受託で進めるときの要点

順序をつけます。

第一に、自社のツールがAEDTに当たるかの判定です。規則第5-300条の三つの意味に照らして確認します*2。スコアを出しているか、その重みが他の基準より重いか、人の判断を覆す使い方をしていないか*2。この整理を書面にしておくことです。

第二に、EEO-1区分での集計可否の確認です。影響比率は、性別・人種／民族・その交差区分ごとに算出することとされています*2。応募者の自己申告を任意で集めていないと、監査に必要な集計ができません*2。

第三に、独立監査人の要件の確認です。開発や配布に関与した者、雇用関係にある者、財務上の利害を持つ者は独立監査人になれないとされています*2。ベンダーの社内チームによる評価では要件を満たしません*2。

第四に、公表ページの用意です。採用セクションに、監査日・結果の要約・配布日を置きます*2。最後の使用から6か月以上の掲示も見込んでおきます*2。

第五に、10営業日の逆算です。通知は使用の10営業日以上前です*2。求人を出してから慌てて掲示しても間に合いません*2。採用のスケジュールに組み込んでおくことです。

受託で進める場合の要点も挙げます。

配布日を記録することです。公表項目に配布日が含まれています*2。使用を開始した日という定義なので*2、システムの本番投入日を記録に残しておく必要があります。

集計をレポート機能として持つことです。選抜率、スコア率、影響比率、不明区分の人数*2。監査のたびに手作業で集めると、1年ごとの更新が重荷になります。

データ保持方針を先に決めることです。第5-304条(d)は、データ保持方針・収集するデータの種類・出所の公表を求めています*2。設計時に決めていないと、公表する内容が書けません*2。

他の枠組みと項目を揃えることです。採用に関わる自動判定はコロラド州のADMT法でも対象領域として挙げられ、EUのプラットフォーム労働指令も採用や選考の段階から規律しています。求められる手続きは違いますが、集める元の情報は重なります。全体像は米国のAI規制で扱っています。

執行についても一言添えます*3。DCWPは、バイアス監査と必要な通知を欠いたAEDTの使用の禁止を執行するとしています*3。AEDTの使用に関わる差別の主張は、ニューヨーク市人権法を執行する市人権委員会へとされ、DCWPは差別の主張を同委員会へ付託するとされています*3。窓口が二つに分かれている点は押さえておくとよいでしょう。

体制としては、採用の実務を知る人と、集計を実装できる人が同じ場にいるかが分かれ目になります。影響比率は、応募者データの持ち方で出せるかどうかが決まります。人事側と実装側が同じ席で話せる形を作れるかを、委託先を選ぶ観点に入れておくとよいでしょう。

まとめ：Local Law 144で押さえる3つの視点

ニューヨーク市のLocal Law 144は、使用の1年以内にバイアス監査を受けていないAEDTの使用を雇用主と職業紹介機関に禁じ、監査に関する情報の公表と一定の通知を求めます。DCWPは2023年7月5日から執行を開始しています。押さえたい視点は三つです。第一に、対象の範囲。規則第5-300条は「裁量的な意思決定を実質的に補助または代替する」の意味を、簡略化された出力のみに依拠する場合、簡略化された出力に他のどの基準よりも大きい重みを置く場合、人の判断を含む他の要素から導かれた結論を覆すために用いる場合の三つに限定しています。第二に、監査の中身。直近の監査から1年を超えたAEDTは使用できず、選抜・分類型では選抜率と影響比率、スコア型では中位スコアとスコア率と影響比率を、EEO-1の区分に基づく性別・人種／民族・その交差区分ごとに算出します。独立監査人は開発や配布への関与、雇用関係、財務上の利害がない者に限られます。第三に、公表と通知。使用の前に自社ウェブサイトの採用セクションへ監査日と結果の要約、配布日を掲示し、最後の使用から6か月以上維持します。候補者や従業員への通知は使用の10営業日以上前に行い、データ保持方針や収集するデータの種類・出所も公表して、書面の請求には30日以内に回答します。

よくある質問

出典

1. *1　参考：NYC Department of Consumer and Worker Protection「Automated Employment Decision Tools (AEDT)」（https://www.nyc.gov/site/dca/about/automated-employment-decision-tools.page）。2021年のLocal Law 144が、使用の1年以内にバイアス監査を受けていないAEDTの使用を雇用主および職業紹介機関に禁じ、バイアス監査に関する情報を公に利用可能にすること、従業員または求職者に一定の通知を行うことを求めていること、DCWPが2023年7月5日からこの法律と規則の執行を開始したこと、通知はAEDTの使用の10営業日前に提供する必要があると2023年6月に資料が明確化されたことの一次情報として（2026年8月確認）
2. *2　参考：NYC Rules「Notice of Adoption of Final Rule — Automated Employment Decision Tools（6 RCNY §5-300〜§5-304）」（https://rules.cityofnewyork.us/wp-content/uploads/2023/04/DCWP-NOA-for-Use-of-Automated-Employment-Decisionmaking-Tools-2.pdf）。第5-300条（AEDTの定義と「実質的に補助または代替する」の三つの意味、求職者、区分＝EEO-1のコンポーネント1区分、配布日、雇用の決定、履歴データ、独立監査人の三つの除外事由、影響比率の二つの算式、機械学習・統計モデリング・データ分析・人工知能の二要件、スコア率、スクリーン、選抜率の定義と算出例）、第5-301条（(a)1年を超えた監査での使用禁止、(b)選抜・分類型で算出する五項目と性別・人種民族・交差区分での別算出、(c)スコア型で算出する五項目、(d)データの2%未満の区分の除外と正当化理由の記載）、第5-302条（(a)履歴データの原則と他社データに依拠できる二つの場合、(b)テストデータの利用条件と要約への説明、例1〜3）、第5-303条（(a)使用前の公表と結果の要約に含む項目および配布日、(b)ハイパーリンクによる方法、(c)最後の使用後6か月以上の掲示）、第5-304条（(a)代替の選抜手続や合理的配慮の請求方法の指示と代替手続の義務づけがない旨、(b)求職者への通知の三つの方法と10営業日、(c)昇進を検討される従業員への通知の三つの方法、(d)データ保持方針・収集するデータの種類・出所の公表、請求方法の掲示、書面請求への30日以内の提供、開示が法令違反や捜査の妨げとなる場合の説明）の一次情報として（2026年8月確認）
3. *3　参考：NYC Department of Consumer and Worker Protection「Automated Employment Decision Tools: Frequently Asked Questions（2023年6月29日版）」（https://www.nyc.gov/assets/dca/downloads/pdf/about/DCWP-AEDT-FAQ.pdf）。ウェブサイトで通知を行う場合、掲示から10営業日後にAEDTの使用を開始できること（特定の求人の掲載時期を問わない旨）、DCWPがバイアス監査と必要な通知を欠いたAEDT使用の禁止を執行すること、AEDTの使用に関わる差別の主張はニューヨーク市人権法を執行する市人権委員会に向けられるべきであり、DCWPが差別の主張を同委員会へ付託することの一次情報として（2026年8月確認）

Tweet