Name: ディファレンシャル・プライバシー - 簡単な説明 (Differential Privacy - Simply Explained)
Uploaded: 2024-12-06T06:37:20.000Z
Duration: 6 min 59 s

These days, companies are using more and more of our data to improve their products and services.

最近、企業は製品やサービスを改善するために、ますます多くのデータを利用している。

And it makes a lot of sense if you think about it.

考えてみれば、とても理にかなっている。

It's better to measure what your users like, than to guess and build products that no one wants to use.

推測して誰も使いたがらない製品を作るよりも、ユーザーが何を好むかを測定する方が良い。

しかし、これも非常に危険だ。

It undermines our privacy because the collected data can be quite sensitive, causing harm if it would leak.

収集されたデータはかなりセンシティブなものである可能性があり、流出すれば被害が及ぶため、プライバシーが損なわれる。

So companies love data to improve their products, but we, as users, we want to protect our privacy.

そのため、企業は製品を改良するためのデータが大好きだが、ユーザーである私たちはプライバシーを守りたい。

These contradicting needs can be satisfied with a technique called differential privacy.

これらの相反するニーズは、ディファレンシャル・プライバシーと呼ばれる技術で満たすことができる。

It allows companies to collect information about their users without compromising the privacy of an individual.

これにより、企業は個人のプライバシーを損なうことなく、ユーザーに関する情報を収集することができる。

But let's first take a look at why we would go through all this trouble.

しかし、まずはなぜこのような手間をかけるのかを見てみよう。

Companies can just take our data, remove our names and call it a day, right?

企業は私たちのデータを取って、私たちの名前を削除して、それで終わりなんでしょう？

First of all, this anonymization process usually happens on the servers of the companies that collect your data.

まず第一に、この匿名化処理は通常、あなたのデータを収集する企業のサーバー上で行われる。

So you have to trust them to really remove the identifiable records.

だから、識別可能な記録を本当に削除してくれるのか、信頼しなければならない。

And secondly, how anonymous is anonymized data really?

そして第二に、匿名化されたデータは本当に匿名なのだろうか？

In 2006, Netflix started a competition called the Netflix Prize.

2006年、ネットフリックスは「ネットフリックス・プライズ」と呼ばれるコンペティションを開始した。

Competing teams had to create an algorithm that could predict how someone would rate a movie.

競争チームは、誰かが映画をどう評価するかを予測できるアルゴリズムを作成しなければならなかった。

To help with this challenge, Netflix provided a dataset containing over 100 million ratings submitted by over 480,000 users for more than 17,000 movies.

この課題を解決するために、ネットフリックスは、1万7000本以上の映画について48万人以上のユーザーから寄せられた1億件以上の評価を含むデータセットを提供した。

Netflix of course anonymized this dataset by removing the names of users and by replacing some ratings with fake and random ratings.

もちろん、ネットフリックスはこのデータセットを匿名化し、ユーザーの名前を削除し、一部の評価を偽のランダムな評価に置き換えている。

Even though that sounds pretty anonymous, it actually wasn't.

匿名性が高いように聞こえるが、実際はそうではなかった。

Two computer scientists from the University of Texas published a paper in 2008 that said that they had successfully identified people from this dataset by combining it with data from IMDB.

テキサス大学の2人のコンピューター科学者が2008年に発表した論文によると、IMDBのデータと組み合わせることで、このデータセットから人物を特定することに成功したという。

These types of attacks are called linkage attacks and it happens when pieces of seemingly anonymous data can be combined to reveal real identities.

この種の攻撃はリンケージ攻撃と呼ばれ、一見匿名に見えるデータの断片が組み合わされることで本当の身元が明らかになってしまう。

Another more creepy example would be the case of the governor of Massachusetts.

もっと不気味な例としては、マサチューセッツ州知事のケースがある。

In the mid-1990s, the state's group insurance commission decided to publish the hospital visits of state employees.

1990年代半ば、州の団体保険委員会は州職員の通院記録を公表することを決定した。

They anonymized this data by removing names, addresses and other fields that could identify people.

名前、住所、その他個人を特定できるフィールドを削除することで、このデータを匿名化したのだ。

However, computer scientist Latanya Sweeney decided to show how easy it was to reverse this.

しかし、コンピューター科学者のラターニャ・スウィーニーは、これを逆転させることがいかに簡単かを示すことにした。

She combined the published health records with voter registration records and simply reduced the list.

彼女は公表された健康記録と有権者登録記録を組み合わせ、単純にリストを減らした。

There was only one person in the medical data that lived in the same zip code, had the same gender and the same date of birth as the governor, thus exposing his medical records.

医療データには、知事と同じ郵便番号に住み、性別と生年月日が同じ人物が一人だけ含まれていた。

In a later paper, she noted that 87% of all Americans can be identified with only three pieces of information, zip code, birthday and gender.

後の論文で彼女は、アメリカ人全体の87％が郵便番号、誕生日、性別の3つの情報だけで特定できると指摘している。

Clearly, this technique isn't enough to protect our privacy.

プライバシーを守るには、この手法だけでは不十分なのは明らかだ。

Differential privacy, on the other hand, neutralizes these types of attacks.

一方、差分プライバシーはこの種の攻撃を無力化する。

To explain how it works, let's assume that we want to get a view on how many people do something embarrassing like, for example, picking their nose.

どのように機能するかを説明するために、例えば鼻をほじるというような恥ずかしいことをする人がどれくらいいるかという見解を得たいと仮定しよう。

To do that, we set up a service with the question, do you pick your nose?

そのために、私たちは「鼻をほじりますか？

And with the yes and no buttons below it.

その下に「はい」と「いいえ」のボタンがある。

We collect all these answers on a server somewhere, but instead of sending the real answers, we're going to introduce some noise.

私たちはこれらの答えをすべてどこかのサーバーに集めるが、本当の答えを送信する代わりに、ノイズを導入するつもりだ。

Let's say that Bob is a nose picker and that he clicks on the yes button.

ボブが鼻をほじる人で、イエスボタンをクリックしたとしよう。

Before we send his response to the server, our differential privacy algorithm will flip a coin.

彼の応答をサーバーに送信する前に、我々の差分プライバシーアルゴリズムはコインを反転させる。

If it's heads, the algorithm sends Bob's real answer to our server.

もしヘッドであれば、アルゴリズムはボブの本当の答えを我々のサーバーに送る。

If it's tails, the algorithm flips a second coin and sends yes if it's tails or no if it's heads.

もし裏なら、アルゴリズムは2枚目のコインをめくり、裏なら「はい」、表なら「いいえ」を送る。

Back on our server, we see the data coming in, but because of the added noise, we can't really trust individual records.

サーバーに戻ると、データが入ってくるのがわかるが、ノイズが加わっているため、個々のレコードを信用することはできない。

Our record for Bob might say that he's a nose picker, but there is at least a 1 in 4 chance that he's actually not a nose picker, but that the answer was simply the effect of the coin toss that the algorithm performed.

ボブの記録は鼻をほじる人だと言っているかもしれないが、実際には鼻をほじる人ではなく、アルゴリズムが実行したコイントスの結果に過ぎないという可能性が少なくとも4分の1ある。

これが、もっともらしい否認である。

You can't be sure of people's answers, so you can't judge them on it.

人々の答えを確信することはできないから、それで判断することはできない。

This is particularly interesting if you're collecting data about illegal behavior, such as drug use for instance.

これは、例えば薬物使用など、違法行為に関するデータを収集する場合に特に興味深い。

Because you know how the noise is distributed, you can compensate for it and end up with a fairly accurate view on how many people are actually nose pickers.

ノイズがどのように分布しているかがわかるので、ノイズを補正することができ、実際に鼻をほじる人が何人いるのかをかなり正確に把握することができる。

Of course, the coin toss algorithm is just an example and a bit too simple.

もちろん、コイントスのアルゴリズムは単なる例であり、少し単純すぎる。

Real world algorithms use the Laplace distribution to spread data over a larger range and increase the level of anonymity.

実際のアルゴリズムでは、ラプラス分布を使ってデータをより広い範囲に広げ、匿名性を高めている。

In the paper The Algorithmic Foundations of Differential Privacy, it is noted that differential privacy promises that the outcome of a survey will stay the same whether or not you participate in it.

The Algorithmic Foundations of Differential Privacy（差分プライバシーのアルゴリズム的基礎）という論文では、差分プライバシーは、調査に参加してもしなくても結果が変わらないことを約束するものであると述べられている。

Therefore, you don't have any reason not to participate in the survey.

したがって、調査に参加しない理由はない。

You don't have to fear that your data, in this case your nose picking habits, will be exposed.

自分のデータ、この場合は鼻をほじる習慣が暴露されることを恐れる必要はない。

Alright, so now we know what differential privacy is and how it works, but let's take a look at who is already using it.

さて、これで差分プライバシーとは何か、そしてどのように機能するのかがわかった。

Apple and Google are two of the biggest companies who are currently using it.

アップルとグーグルは、現在これを使用している2大企業である。

Apple started rolling out differential privacy in iOS 10 and macOS Sierra.

アップルはiOS 10とmacOS Sierraで差分プライバシーを展開し始めた。

They use it to collect data on what websites are using a lot of power, what images are used in a certain context, and what words people are typing that aren't in the keyboard's  Apple's implementation of differential privacy is documented, but not open source.

どのウェブサイトが多くの電力を使っているのか、どの画像が特定の文脈で使われているのか、キーボードにないどんな単語を入力しているのか、といったデータを収集するために使っているのだ。 アップルによる差分プライバシーの実装は文書化されているが、オープンソースではない。

Google on the other hand has been developing an open source library for this.

一方、グーグルはこのためのオープンソースライブラリを開発している。

They use it in Chrome to do studies on browser malware and in Maps to collect data about traffic in large cities.

クロームではブラウザのマルウェアに関する研究に、マップでは大都市の交通に関するデータ収集に使用している。

But overall there aren't many companies who have adopted differential privacy and those who have only use it for a small percentage of their data collection.

しかし、全体的に見ると、差分プライバシーを採用している企業はそれほど多くなく、採用している企業もデータ収集のごく一部に使用しているに過ぎない。

Well, for starters, differential privacy is only usable for large datasets because of the injected noise.

まず、ディファレンシャル・プライバシーは、ノイズが混入するため、大規模なデータセットにしか使えない。

Using it on a tiny dataset will likely result in inaccurate data.

小さなデータセットに使用すると、不正確なデータになる可能性が高い。

And then there is also the complexity of implementing it.

そして、それを実行することの複雑さもある。

It's a lot more difficult to implement differential privacy compared to just reporting the real data of users and anonymize it in the old fashioned way.

差分プライバシーを実装するのは、昔ながらの方法でユーザーの実データを報告し、匿名化するのに比べればずっと難しい。

So the bottom line is that differential privacy can help companies to learn more about a group of users without compromising the privacy of an individual within that group.

つまり、差分プライバシーは、そのグループ内の個人のプライバシーを損なうことなく、企業がユーザーのグループについてより深く知るのに役立つということだ。

Adoption however is still limited, but it's clear that there is an increasing need in ways to collect data about people without compromising their privacy.

しかし、採用はまだ限定的だが、プライバシーを損なうことなく人々のデータを収集する方法の必要性が高まっていることは明らかだ。

というわけで、今回のビデオはここまで。

If you want to learn more, head over to the Simply Explained playlist to watch more videos.

もっと詳しく知りたい方は、Simply Explainedのプレイリストにアクセスして、もっと多くのビデオをご覧ください。

 And as always, thank you very much for watching.

そして、いつもご覧いただきありがとうございます。

字幕リスト動画再生

ディファレンシャル・プライバシー - 簡単な説明 (Differential Privacy - Simply Explained)

individual

compromise

technique

improve