I always ask them the same thing:

学校で生徒たちに話す機会があると

Why do you Google?

必ず聞くことがあります

Why is Google the search engine of choice for you?

「なぜGoogle検索するの？

Strangely enough, I always get the same three answers.

なぜ検索エンジンにGoogleしか選ばないの？」

One, "Because it works,"

不思議と 返ってくる答えは 決まってこの３つです

which is a great answer; that's why I Google, too.

１つ目は「うまく検索できるから」

Two, somebody will say,

ご名答です 私も同じ理由でGoogleを使っています

"I really don't know of any alternatives."

２つ目は―

It's not an equally great answer and my reply to that is usually,

「ほかの検索エンジンを知らないから」

"Try to Google the word 'search engine,'

ちょっと惜しい たいてい 私はこう返します

you may find a couple of interesting alternatives."

「Googleで『検索エンジン』を

And last but not least, thirdly,

検索してごらん ほかにも面白いのがあるよ」

inevitably, one student will raise her or his hand and say,

そして トリとなる３つ目です

"With Google, I'm certain to always get the best, unbiased search result."

必ず 手を挙げて 満を持して言う子がいるんです

Certain to always get the best, unbiased search result.

「Googleを使うと 絶対に 常に最高で公正な検索結果が得られるから」

Now, as a man of the humanities,

絶対に 常に最高で公正な 検索結果が得られる―

albeit a digital humanities man,

これを耳にするたび デジタル世代とはいえ

that just makes my skin curl,

人類のひとりとして

even if I, too, realize that that trust, that idea of the unbiased search result

虫唾（むしず）が走ります

is a cornerstone in our collective love for and appreciation of Google.

みんながGoogleを愛し 大事にしているからこそ

I will show you why that, philosophically, is almost an impossibility.

「公正な検索結果」と信じ 考えるのだと わかっていてもです

But let me first elaborate, just a little bit, on a basic principle

公正な結果など 哲学的にほぼありえません なぜかご説明しましょう

behind each search query that we sometimes seem to forget.

でも まず検索の基本原理について 少しだけお話しさせてください

So whenever you set out to Google something,

みんな 忘れてしまいがちなことです

start by asking yourself this: "Am I looking for an isolated fact?"

Googleで何かを検索するとき

What is the capital of France?

まず考えるべきは 「個別の事実を知りたいのか？」

What are the building blocks of a water molecule?

フランスの首都はどこか

Great -- Google away.

水分子の構成元素は何か といったものです

There's not a group of scientists who are this close to proving

この場合は ぜひGoogle検索しましょう

that it's actually London and H30.

科学者といえども 答えは「ロンドン」と「H30」だなんて

You don't see a big conspiracy among those things.

証明できやしませんから

We agree, on a global scale,

ここに何の陰謀もありません

what the answers are to these isolated facts.

こうした個別の事実については

But if you complicate your question just a little bit and ask something like,

世界全体で 答えが何か 一致しているのです

"Why is there an Israeli-Palestine conflict?"

でも 質問をほんの少し複雑にして こんな風にしたらどうでしょう

You're not exactly looking for a singular fact anymore,

「なぜパレスチナ問題が起こっているのか？」

you're looking for knowledge,

もはや 求めているのは ただ一つの「事実」ではなく

which is something way more complicated and delicate.

「知識」ということになります

And to get to knowledge,

知識は はるかに複雑で繊細なものです

you have to bring 10 or 20 or 100 facts to the table

そうした知識を得るには

and acknowledge them and say, "Yes, these are all true."

10 、20 または100の事実を集め 自分のものにし

But because of who I am,

「これらは すべて真実だ」と 言えないといけません

young or old, black or white, gay or straight,

でも ひとは

I will value them differently.

年齢や人種、性的趣向に関わらず

And I will say, "Yes, this is true,

違う価値観を持っています

but this is more important to me than that."

ですから「確かに これは真実だけど

And this is where it becomes interesting,

こっちのほうが重要だ」となります

because this is where we become human.

ここからが面白いのです

This is when we start to argue, to form society.

私たちが人間らしさを発揮するからです

And to really get somewhere, we need to filter all our facts here,

私たちは互いに議論し 社会を形成し始めます

through friends and neighbors and parents and children

本当に答えを出すには まず事実をすべて ふるいにかけます

and coworkers and newspapers and magazines,

友だちやご近所さん 両親、子どもたち、同僚

to finally be grounded in real knowledge,

そして新聞や雑誌を通じて ふるいにかけ

which is something that a search engine is a poor help to achieve.

真の知識にたどりつくのです

So, I promised you an example just to show you why it's so hard

ここで検索エンジンは あまり役に立ちません

to get to the point of true, clean, objective knowledge --

さきほど 真に純粋で客観的な知識を 手にするのが なぜ難しいか

as food for thought.

例をお見せするとお話ししました

I will conduct a couple of simple queries, search queries.

皆さんにお考えいただきましょう

We'll start with "Michelle Obama,"

まず いくつか簡単な検索をしてみます

the First Lady of the United States.

まずは「ミシェル・オバマ」

And we'll click for pictures.

アメリカのファーストレディです

It works really well, as you can see.

「画像」をクリックします

It's a perfect search result, more or less.

ご覧のとおり うまく行っていますね

It's just her in the picture, not even the President.

まあ 完ぺきな検索結果です

How does this work?

写真には ミシェル一人だけ 大統領さえいません

Quite simple.

どうなっているんでしょう

Google uses a lot of smartness to achieve this, but quite simply,

とてもシンプルです

they look at two things more than anything.

Googleは 色々頭を使っていますが 簡単に言うと

First, what does it say in the caption under the picture on each website?

２つのことに着目しています

Does it say "Michelle Obama" under the picture?

１つは 各ウェブサイトの写真の下にある キャプションの内容です

Pretty good indication it's actually her on there.

写真の下に「ミシェル・オバマ」とあれば

Second, Google looks at the picture file,

彼女の写真の可能性が高いですね

the name of the file as such uploaded to the website.

つぎにGoogleが見るのは 写真ファイル

Again, is it called "MichelleObama.jpeg"?

ウェブサイトにアップロードされた ファイルの名前です

Pretty good indication it's not Clint Eastwood in the picture.

「MichellObama.jpeg」というファイルなら

So, you've got those two and you get a search result like this -- almost.

クリント・イーストウッドの写真 ということはないでしょう

Now, in 2009, Michelle Obama was the victim of a racist campaign,

この２つを手がかりにすると こんな検索結果になるんです―普通は

where people set out to insult her through her search results.

さて2009年 ミシェル・オバマに 人種差別攻撃の矛先が向きました

There was a picture distributed widely over the Internet

検索結果を通じて侮辱されたのです

where her face was distorted to look like a monkey.

ある写真がばらまかれ インターネットを席巻します

And that picture was published all over.

彼女の顔が サルのように ゆがめられた写真です

And people published it very, very purposefully,

写真は インターネット上の あらゆるところに掲載されました

to get it up there in the search results.

しかも 検索結果の上位に表示されるよう

They made sure to write "Michelle Obama" in the caption

非常に意図的な形でネット掲載されました

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

キャプションには必ず 「ミシェル・オバマ」と書かれ

You get why -- to manipulate the search result.

ファイル名も 「MichelleObama.jpeg」などとされたのです

And it worked, too.

そう 検索結果を操作するためです

So when you picture-Googled for "Michelle Obama" in 2009,

確かに それは成功し

that distorted monkey picture showed up among the first results.

Googleで「ミシェル・オバマ」を 画像検索すると

Now, the results are self-cleansing,

2009年当時 サル顔に変形された写真が 結果上位に表示されました

and that's sort of the beauty of it,

さて 検索結果には自浄作用があります

because Google measures relevance every hour, every day.

そこが素晴らしいところでもあり

However, Google didn't settle for that this time,

Googleは 毎日 毎時間 関連度を測っているのです

they just thought, "That's racist and it's a bad search result

でも このときGoogleは 黙ってはいませんでした

and we're going to go back and clean that up manually.

「これは人種差別的で 悪い検索結果だから

We are going to write some code and fix it,"

自らの手で きれいにしないといけない

which they did.

プログラムを書いて修正するんだ」と考え

And I don't think anyone in this room thinks that was a bad idea.

実際にそうしました

Me neither.

皆さんのなかで これが悪いことと 思う方はいないでしょう

But then, a couple of years go by,

私も そう思いません

and the world's most-Googled Anders,

それから２年ほどして

Anders Behring Breivik,

世界で最もGoogle検索されたアンネシュ

did what he did.

アンネシュ・ベーリン・ブレイヴィークは

This is July 22 in 2011,

こんなことをしました

and a terrible day in Norwegian history.

2011年7月22日

This man, a terrorist, blew up a couple of government buildings

ノルウェー史上 悲惨な日となったこの日

walking distance from where we are right now in Oslo, Norway

この男―テロリストは 政府庁舎を爆破しました

and then he traveled to the island of Utøya

ここ ノルウェー・オスロの会場から 徒歩圏内の場所です

and shot and killed a group of kids.

その後 彼はウトヤ島に渡り

Almost 80 people died that day.

子どもたちを銃撃し殺しました

And a lot of people would describe this act of terror as two steps,

その日 80人近くの命が失われました

that he did two things: he blew up the buildings and he shot those kids.

多くの場合 このテロ行為には ２つの段階があったと語られます

It's not true.

つまり 建物爆破と 子どもの銃殺 という２つの段階です

It was three steps.

実は違うのです

He blew up those buildings, he shot those kids,

３つの段階があったんです

and he sat down and waited for the world to Google him.

彼は建物を爆破し 子どもたちを銃殺し

And he prepared all three steps equally well.

そして世界が彼を Google検索するのを待ったのです

And if there was somebody who immediately understood this,

彼は この３つの段階すべてを 周到に準備していました

it was a Swedish web developer,

彼の意図をすぐに見破ったのが

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

スウェーデンのウェブ開発者で

He's also a very political guy

検索エンジン適正化の専門家 ストックホルムのニック・リンドクヴィストです

and he was right out there in social media, on his blog and Facebook.

自らも非常に政治的なニックは

And he told everybody,

ブログやFacebookなど ソーシャルメディアを通じて

"If there's something that this guy wants right now,

みんなに訴えかけました

it's to control the image of himself.

「こいつが今ほしいものがあるとしたら

Let's see if we can distort that.

自分のイメージをコントロールすることだ

Let's see if we, in the civilized world, can protest against what he did

みんなで それを崩そうじゃないか

through insulting him in his search results."

文明社会のみんなの力をあわせて 彼の行為に対して抗議するんだ

And how?

検索結果を通して彼を侮辱するんだ」

He told all of his readers the following,

でも どうやって？

"Go out there on the Internet,

彼は以下のことをするよう呼びかけました

find pictures of dog poop on sidewalks --

インターネットで

find pictures of dog poop on sidewalks --

道端の犬のフンの写真を探し―

publish them in your feeds, on your websites, on your blogs.

道端の犬のフンの写真を探し―

Make sure to write the terrorist's name in the caption,

それをフィードやウェブサイト ブログに掲載するのです

make sure to name the picture file "Breivik.jpeg."

そのとき必ず キャプションにはテロリストの名前を書き

Let's teach Google that that's the face of the terrorist."

ファイル名を「Breivik.jpeg」とするのです

And it worked.

Googleに これがテロリストの顔だと 教えるのです

Two years after that campaign against Michelle Obama,

効果てき面でした

this manipulation campaign against Anders Behring Breivik worked.

ミシェル・オバマ事件の２年後

If you picture-Googled for him weeks after the July 22 events from Sweden,

アンネシュ・ベーリン・ブレイヴィークの 検索結果が操作されました

you'd see that picture of dog poop high up in the search results,

7月22日事件以降の数週間 スウェーデンから彼をGoogleで画像検索すると

as a little protest.

検索結果の上位に犬のフンの写真が 表示されるに至りました

Strangely enough, Google didn't intervene this time.

小さな抗議行動です

They did not step in and manually clean those search results up.

奇妙なことに このとき Googleは介入しませんでした

So the million-dollar question,

人為的に検索結果をきれいにしようとは しなかったのです

is there anything different between these two happenings here?

さて ここで難しい質問です

Is there anything different between what happened to Michelle Obama

これら２つの現象は何が違うんでしょうか？

and what happened to Anders Behring Breivik?

ミシェル・オバマに起こったことと

Of course not.

アンネシュに起こったことは違いますか？

It's the exact same thing,

もちろん違いません

yet Google intervened in one case and not in the other.

まったく同じ事象です

Why?

でも Googleは片方には介入し 他方にはしませんでした

Because Michelle Obama is an honorable person, that's why,

なぜでしょう

and Anders Behring Breivik is a despicable person.

それはミシェル・オバマが 尊敬に値する人物である一方

See what happens there?

アンネシュ・ベーリン・ブレイヴィークが 卑劣な人間だからです

An evaluation of a person takes place

ご覧いただいたとおり

and there's only one power-player in the world

ここには 人に対する評価が介在しています

with the authority to say who's who.

世界には 重要人物を決める権力を持つ―

"We like you, we dislike you.

唯一の権力者がいるのです

We believe in you, we don't believe in you.

「君は好き 君は嫌い

You're right, you're wrong. You're true, you're false.

君は信じる 君は信じない

You're Obama, and you're Breivik."

君は正しい 君は間違っている 君は真実 君は嘘

That's power if I ever saw it.

君はオバマで 君はブレイヴィーク」

So I'm asking you to remember that behind every algorithm

これが力というものです

is always a person,

ですから覚えておいてください どんなアルゴリズムでも

a person with a set of personal beliefs

その後ろには 必ず人間がいるんです

that no code can ever completely eradicate.

人間は それぞれ価値観を持っていて プログラムで

And my message goes out not only to Google,

その影響を 完全に消し去ることはできません

but to all believers in the faith of code around the world.

私はこのメッセージを Googleだけではなく

You need to identify your own personal bias.

プログラムに信頼を寄せる 世界中のすべての人に伝えたい

You need to understand that you are human

自らの偏見をしっかり認識し

and take responsibility accordingly.

人間であることを自覚し

And I say this because I believe we've reached a point in time

責任を持たなければいけません

when it's absolutely imperative

このことを伝えたいのは 結束を今一度

that we tie those bonds together again, tighter:

強くしなければいけない

the humanities and the technology.

そんなときが来ていると 信じているからです

Tighter than ever.

人類と技術のつながり

And, if nothing else, to remind us that that wonderfully seductive idea

この結束を 今以上に強くするのです

of the unbiased, clean search result

少なくとも 心地よい魅惑的に聞こえる―

is, and is likely to remain, a myth.

公正で きれいな検索結果というものは

Thank you for your time.

神話に過ぎず これからもそうだと 心に留めるべきです

(Applause)

ありがとうございました