LASSIC Media らしくメディア

集めた利用者データから、統計やダッシュボードを公開したい。あるいは、そのデータでAIを学習させたい。でも、そこから特定の個人のことが読み取られてしまわないか、気がかりだ——。そんな悩みに応える考え方が「差分プライバシー」です。ひとことでいえば、統計や集計の結果に、計算されたノイズをあえて混ぜることで、個人を守る技術になります。全体の傾向はつかめるのに、ある一人のことは分かりにくい。そんな状態を、数学の裏づけをもって作り出すのが、差分プライバシーの狙いなのです。

とはいえ、確率やノイズが関わるため、言葉だけではイメージしにくい面もあります。本記事では、データの活用やプライバシー保護に携わる情報システム部門・事業部門の担当者に向けて、差分プライバシーとは何か、どんな仕組みで守るのか、匿名化や秘密計算とどう違うのか、そして受託・委託開発で押さえるべき点を整理します。なお、本記事は一般的な情報の整理です。実際の設計は用途によって変わるため、具体は公式情報や専門家にご確認ください。

差分プライバシーとは——ノイズで個人を守る

差分プライバシーとは、データの分析結果に、計算されたノイズを混ぜることで、個人が特定されにくいようにする、プライバシー保護の考え方です。ここでいうノイズとは、でたらめな値ではなく、守りたい度合いに応じて丁寧に調整された、ゆらぎのことを指します。核となる発想は、「ある一人が、そのデータに入っていても、入っていなくても、公開される結果はほとんど変わらない」状態を作ることにあります。結果がその人の有無でほとんど動かないなら、公開された結果を見ても、その人のことは読み取りにくい、という理屈です。

ここが、差分プライバシーの特徴的なところです。「どんな追加情報を持った相手にも、これくらいしか分からない」という守りの強さを、数学の裏づけをもって示せます。目印を消すだけの守り方だと、ほかの情報と突き合わせて後から個人を言い当てられてしまうこともあるのです。差分プライバシーは、そうした後追いの特定にも、あらかじめ強さの上限を定めておく発想だといえます。だからこそ、統計を出す政府機関や大手のサービスでも採り入れられてきたのです。全体像を図にまとめました。

かなめは「プライバシーバジェット（ε）」

差分プライバシーを語るうえで欠かせないのが、「プライバシーバジェット」と呼ばれる考え方です。ギリシャ文字のε（イプシロン）で表され、どれだけ強く守るかの度合いを示すものです。ざっくりいえば、εが小さいほど、混ぜるノイズが多くなり、守りは強くなります。そのぶん、結果の精度は下がるのです。逆に、εを大きくすると、ノイズは少なくなって精度は上がりますが、守りは弱まります。守りと使いやすさは、この一つのつまみで釣り合いをとる、という構図です。

ここが、差分プライバシーの悩ましくも面白いところです。守りを強くしすぎると、統計としての値打ちが薄れ、緩めすぎると、個人が読み取られる危うさが増します。どのあたりに設定するのが妥当かは、データの中身や、公開する目的、守るべき相手によって変わります。「バジェット（予算）」という呼び名のとおり、限りある守りをどう配分するかを見定める作業だと捉えると、腑に落ちるでしょう。この設定こそが、差分プライバシーの肝になります。

2つのモデル——中央型とローカル型

差分プライバシーには、ノイズを「どこで混ぜるか」によって、大きく二つのやり方があります。整理してみましょう。

一つ目の「中央型」は、いったんデータを集めたうえで、集計の段階でノイズを混ぜるやり方です。まとめてから調整するため、精度を保ちやすい一方、データを集める側を、ある程度は信頼する前提になります。統計を公表する機関などで採られてきた形です。二つ目の「ローカル型」は、一人ひとりの端末の側で、データを送り出す前にノイズを混ぜます。集める側の手元に届く時点で、すでにゆらぎが入っているため、生のデータそのものは見せずにすみます。手元の端末から利用状況を集めるような場面で用いられてきた形です。どちらを選ぶかは、誰をどこまで信頼できるか、どれだけの精度が要るかによって変わります。

匿名化・秘密計算との違い

プライバシーを守る手立ては、差分プライバシーのほかにもあります。違いは「どこを守るか」に表れるため、そこを押さえると使い分けの見通しが立ちます。まず、個人情報保護法でもなじみのある匿名化（目印を消す方法）との違いです。氏名などの目印を削る守り方は手軽ですが、ほかの情報と突き合わせると、後から個人を言い当てられる余地が残ります。差分プライバシーは、そうした後追いの特定にも、強さの上限をあらかじめ定めておく点が異なります。

次に、先に取り上げた秘密計算との違いです。秘密計算は、データを暗号などで隠したまま「処理する最中」を守ります。これに対して差分プライバシーが守るのは、処理して出てきた「結果（出力）」です。結果から個人が読み取られないようにする、という別の局面を受け持ちます。守る場所が違うため、実際には、これらを組み合わせて使うこともあります。たとえば、データを一か所に集めずに学習を進める連合学習に、差分プライバシーを重ねる、といった具合です。それぞれの守り方が、補い合う関係にあると捉えるとよいでしょう。

使いどころと、気をつける点

差分プライバシーが持ち味を発揮するのは、「個人を守りながら、全体を活かしたい」場面です。たとえば、利用者データから統計やダッシュボードを公開したいとき。あるいは、集めたデータでAIを学習させたいとき。さらには、複数の部署や組織でデータの傾向を共有したいときにも役立ちます。いずれも、一人ひとりの中身は伏せつつ、全体の傾向は引き出したい、という動機が共通しているのです。政府の統計や、身近なサービスの利用状況の把握などで、実際に用いられてきました。

いっぽうで、気をつけたい点もあります。まず、精度との釣り合いです。守りを強めるほどノイズが増え、結果の精度は下がります。用途にとって、その精度で足りるかを、よく見極める必要があります。次に、εの設定です。どれくらいの強さが妥当かは、一律の正解があるわけではなく、目的や守るべき相手を踏まえた判断が要ります。そして、これを入れれば守りが万全になるわけではない点も、心に留めておきたいところです。全体の設計のなかで、どこに差分プライバシーを効かせるかを見定める姿勢が大切になります。

受託・委託開発で押さえる実務ポイント

差分プライバシーの活用を外部と進める場合は、いくつかの点をすり合わせておくと見通しが立ちます。まず、何を公開・活用したくて、誰を守りたいのかの整理です。出したい統計や結果と、守るべき個人をはっきりさせると、そもそも差分プライバシーが見合うのか、見合うならεをどのあたりに置くのか、という判断の土台ができます。目的があいまいなまま強い守りをかけると、使いものにならない結果になりかねません。

次に、精度とのバランスの詰めです。どの程度の精度が実用に足るのかを見定め、それに見合うεを、小さく試しながら探っていくと危なげがありません。あわせて、匿名化や秘密計算など、ほかの守り方とどう組み合わせるかも、視野に入れておきたいところです。何を守り、何を出すのかの整理から、εの調整、精度の検証、他の技術との組み合わせまでを見通して一緒に描ける相手だと、任せたあとも落ち着いて進めやすくなります。

まとめ：差分プライバシーで押さえる3つの視点

差分プライバシーは、個人を守りながらデータを活かす、という二つの願いをつなぐ考え方です。押さえておきたい視点は三つに整理できます。第一に、差分プライバシーは結果に計算されたノイズを混ぜ、個人を特定されにくくする、数学に裏づけられた守り方であること。第二に、かなめは「プライバシーバジェット（ε）」で、守りを強めるほどノイズが増え精度は下がるという釣り合いがあり、その設定が肝になること。第三に、匿名化や秘密計算とは守る場所が異なり、差分プライバシーは「出力（結果）」から個人を守ること。まずは、自社が何を出したくて、誰を守りたいのかを見定めるところから。判断に迷う部分があれば、公式情報の確認とあわせて、外部の知見を頼るのも堅実な選び方といえます。

よくある質問

著者：テレリモ総研編集部　鈴木 亮佑

ご不明な点はお問い合わせフォームからもご連絡いただけます。

1. *1　参考：NIST「Threat Models for Differential Privacy」（https://www.nist.gov/blogs/cybersecurity-insights/threat-models-differential-privacy）。差分プライバシーの考え方・モデルの一般的な参考として。
2. *2　参考：U.S. Census Bureau「Differential Privacy and the 2020 Census」（https://www.census.gov/content/dam/Census/library/factsheets/2021/differential-privacy-and-the-2020-census.pdf）。実際の活用と考え方の参考として。

Tweet