I was on an airplane with my son who was just five years old at the time.

数年前のことです

My son was so excited about being on this airplane with Mommy.

私は 当時ほんの５歳だった息子と 一緒に飛行機に乗っていました

He's looking all around and he's checking things out

息子はママと飛行機に 乗っていることに大興奮で

and he's checking people out.

周りをくまなく見渡して 目に入るものや

And he sees this man, and he says,

人を観察していました

"Hey! That guy looks like Daddy!"

すると ある男の人を見て

And I look at the man,

「見て！ あの人パパに似てる！」と 言ったんです

and he didn't look anything at all like my husband,

その人の方に目をやると

nothing at all.

夫には似ても似つかない人でした

And so then I start looking around on the plane,

何も共通点がないんです

and I notice this man was the only black guy on the plane.

そこで 機内を見渡してみると

And I thought,

その人が機内で唯一の 黒人男性であることに気づきました

"Alright.

こう 思いました

I'm going to have to have a little talk with my son

「そうか

about how not all black people look alike."

黒人だからって 皆が似ているわけじゃないと

My son, he lifts his head up, and he says to me,

息子に言って聞かせなくちゃ」と

"I hope he doesn't rob the plane."

息子は 顔を上げて 私に言いました

And I said, "What? What did you say?"

「あの人が飛行機を 乗っ取らないといいね」

And he says, "Well, I hope that man doesn't rob the plane."

私が思わず 「え？ 何て言ったの？」と聞くと

And I said, "Well, why would you say that?

息子は「あの人が飛行機を 乗っ取らないといいなと思って」と

You know Daddy wouldn't rob a plane."

私は「なんで そんなことを言うの？

And he says, "Yeah, yeah, yeah, well, I know."

パパはそんなことしないでしょう？」 と言いました

And I said, "Well, why would you say that?"

「うん そうだけどさ」と息子

And he looked at me with this really sad face,

「じゃあ なんで そんなことを言うの？」と私

and he says,

すると息子はひどく悲しそうな顔をして

"I don't know why I said that.

言いました

I don't know why I was thinking that."

「なんでそんなこと 言ったんだろう

We are living with such severe racial stratification

なんでそう思ったのか わからないよ」

that even a five-year-old can tell us what's supposed to happen next,

私たちは深刻なまでに 人種で階層化された世界に生きているため

even with no evildoer,

５歳児でさえ 何が起こりうるかを口にできます

even with no explicit hatred.

悪事を働く者がいなくても

This association between blackness and crime

はっきりとした憎しみがなくても これが現実です

made its way into the mind of my five-year-old.

黒人であることが 犯罪を連想させることは

It makes its way into all of our children,

私の５歳の息子にまで 植え付けられていたのです

into all of us.

この連想は あらゆる子供たちと あらゆる人々に

Our minds are shaped by the racial disparities

忍び寄ります

we see out in the world

私たちの思考は

and the narratives that help us to make sense of the disparities we see:

世の中で目にする 人種間の格差と

"Those people are criminal."

その辻褄を合わせるための 言説によって形作られます

"Those people are violent."

「あの人たちは犯罪者だ」

"Those people are to be feared."

「あの人たちは暴力的だ」

When my research team brought people into our lab

「あの人たちは怖い人たちだ」

and exposed them to faces,

私の研究チームが 実験室に参加者を集めて

we found that exposure to black faces led them to see blurry images of guns

人の顔を見せる実験をすると

with greater clarity and speed.

黒人の顔を見ることで よりはっきりと素早く

Bias cannot only control what we see,

おぼろげな銃のイメージを 想起させることが分かりました

but where we look.

偏見によって 見えるものが変わるだけでなく

We found that prompting people to think of violent crime

目を向けるものも変わります

can lead them to direct their eyes onto a black face

凶悪犯罪について 考えるよう促すことで

and away from a white face.

白人の顔から目を離して 黒人の顔へと

Prompting police officers to think of capturing and shooting

目を向けうることも分かりました

and arresting

警察官に被疑者確保や射撃や 逮捕についてイメージさせると

leads their eyes to settle on black faces, too.

黒人の顔に目が向きがちであることも 分かりました

Bias can infect every aspect of our criminal justice system.

偏見は刑事司法制度の あらゆる側面に影響を及ぼします

In a large data set of death-eligible defendants,

死刑が求刑されている被告人の 膨大なデータを調べてみると

we found that looking more black more than doubled their chances

より肌が黒いことで 死刑を言い渡される可能性が

of receiving a death sentence --

２倍以上になると分かりました

at least when their victims were white.

少なくとも被害者が 白人の場合はそうです

This effect is significant,

この影響は非常に大きく

even though we controlled for the severity of the crime

犯罪の重大性や 被告人の魅力などを

and the defendant's attractiveness.

調整してもなお 影響を及ぼすほどでした

And no matter what we controlled for,

どんな条件を調整しても

we found that black people were punished

黒人はその身体的特徴である 黒さに応じて

in proportion to the blackness of their physical features:

刑罰を受けていたのでした

the more black,

肌が黒ければ黒いほど

the more death-worthy.

より死刑に処されやすいのです

Bias can also influence how teachers discipline students.

偏見は教師が生徒を 叱る上でも影響します

My colleagues and I have found that teachers express a desire

同僚と行った研究では 全く同じ違反を繰り返した場合でも

to discipline a black middle school student more harshly

教師は白人の中学生よりも 黒人の中学生の方を

than a white student

罰しようと思うことが 分かりました

for the same repeated infractions.

最近の研究では

In a recent study,

教師が黒人の生徒を 集団として扱う一方で

we're finding that teachers treat black students as a group

白人の生徒を個人として 扱うことが分かりました

but white students as individuals.

例えば 仮に ある黒人の生徒が悪さをし

If, for example, one black student misbehaves

その数日後に 別の黒人の生徒が 悪さをすると

and then a different black student misbehaves a few days later,

教師は２人目の黒人の生徒に対して

the teacher responds to that second black student

まるで２度悪さをしたような 態度を取るのです

as if he had misbehaved twice.

１人の子供の違反が

It's as though the sins of one child

他の子供にも降りかかるのです

get piled onto the other.

私たちは世界を理解するために 物事を分類します

We create categories to make sense of the world,

私たちが常にさらされている 数々の刺激をコントロールし

to assert some control and coherence

それらに一貫性を見出すためです

to the stimuli that we're constantly being bombarded with.

分類する能力と それがもたらす偏見のおかげで

Categorization and the bias that it seeds

脳は より速く効率よく 判断を下すことができますし

allow our brains to make judgments more quickly and efficiently,

私たちの脳は予測可能に思える パターンに本能的に従って

and we do this by instinctively relying on patterns

判断をします

that seem predictable.

しかし 分類することによって 素早い判断ができると同時に

Yet, just as the categories we create allow us to make quick decisions,

分類は偏見を助長します

they also reinforce bias.

ですから 世界を見せてくれる 能力そのものによって

So the very things that help us to see the world

目をくらまされることもあるのです

also can blind us to it.

分類は選択を容易にし

They render our choices effortless,

引っかかりを取り除きます

friction-free.

それでいて 重大な負の側面も 伴うのです

Yet they exact a heavy toll.

では 何ができるでしょうか？

So what can we do?

私たちは偏見に囚われがちですが

We are all vulnerable to bias,

常に偏見に基づいて 行動するわけではありません

but we don't act on bias all the time.

偏見のスイッチを入れる 特定の条件もあれば

There are certain conditions that can bring bias alive

それを打ち消す条件もあるのです

and other conditions that can muffle it.

例を挙げてみましょう

Let me give you an example.

多くの人が Nextdoorという テック企業を知っているでしょう

Many people are familiar with the tech company Nextdoor.

この企業の目標は 地域を より強固で健全かつ安全にすることです

So, their whole purpose is to create stronger, healthier, safer neighborhoods.

そこで この企業は オンラインスペースを提供し

And so they offer this online space

近所の人たちが情報を集めて 共有できるようにしています

where neighbors can gather and share information.

でも Nextdoorは やがて 人種プロファイリングに

Yet, Nextdoor soon found that they had a problem

欠陥があることに気づきました

with racial profiling.

典型的なケースでは

In the typical case,

人々が窓の外を見て

people would look outside their window

白人ばかりが住む地域に 黒人がいることを見つけると

and see a black man in their otherwise white neighborhood

犯罪行為をしている証拠などなくても

and make the snap judgment that he was up to no good,

その人は悪さをするに違いないと すぐに決めつけるのです

even when there was no evidence of criminal wrongdoing.

様々な意味で オンラインでの行動は

In many ways, how we behave online

現実世界での行動を 反映しています

is a reflection of how we behave in the world.

しかし 偏見を助長し 人種間の格差を深めるような

But what we don't want to do is create an easy-to-use system

簡単に使えるシステムを作るなど あってはならないことです

that can amplify bias and deepen racial disparities,

偏見や格差は むしろ取り除くべきです

rather than dismantling them.

そこで Nextdoorの共同創設者が どうすればよいか

So the cofounder of Nextdoor reached out to me and to others

私を含め何人かに 相談しにきました

to try to figure out what to do.

そこで気づいたのは プラットフォームの 人種プロファイリングを抑制するには

And they realized that to curb racial profiling on the platform,

摩擦点を加えて

they were going to have to add friction;

人々の拙速な行動を抑える必要が あるということでした

that is, they were going to have to slow people down.

Nextdoorは選択を迫られ

So Nextdoor had a choice to make,

行動を誘発するものすべてに対して

and against every impulse,

摩擦点を加えることにしました

they decided to add friction.

どうしたかというと 簡単なチェックリストを追加したのです

And they did this by adding a simple checklist.

チェックするのは３点です

There were three items on it.

１つ目に ユーザーに一呼吸置いて

First, they asked users to pause

「この人のどの行動を怪しいと 思ったか」を考えてもらいました

and think, "What was this person doing that made him suspicious?"

「黒人」という分類は 怪しさの理由にはなりません

The category "black man" is not grounds for suspicion.

２つ目は ユーザーに 人種とジェンダーだけではなく

Second, they asked users to describe the person's physical features,

身体的特徴を記してもらいました

not simply their race and gender.

３つ目に 多くの人々が 人種プロファイリングとは何であり

Third, they realized that a lot of people

自分たちがそれをしていることも 知らないのだということに

didn't seem to know what racial profiling was,

気づきました

nor that they were engaging in it.

そこで Nextdoorは 定義を明らかにして

So Nextdoor provided them with a definition

「これを厳しく禁止する」と 伝えたのです

and told them that it was strictly prohibited.

空港や地下鉄の駅にある掲示に

Most of you have seen those signs in airports

「何か目にしたら 声を上げること」 というのがありますね

and in metro stations, "If you see something, say something."

Nextdoorは これをもじりました

Nextdoor tried modifying this.

「何か怪しいものを目にしたら

"If you see something suspicious,

具体的に言葉にすること」

say something specific."

単に人々の拙速な行動を 抑制するというやり方を使って

And using this strategy, by simply slowing people down,

Nextdoorは人種プロファイリングを 75%も減らすことができたのです

Nextdoor was able to curb racial profiling by 75 percent.

私が人によく言われるのは

Now, people often will say to me,

「すべての状況と文脈に 摩擦点を取り入れるのは無理だ

"You can't add friction in every situation, in every context,

常に瞬時に判断を求められる人たちにとっては 特に無理があるはずだ」と

and especially for people who make split-second decisions all the time."

ですが 考えているよりも ずっと多くの状況に

But it turns out we can add friction

摩擦点を導入することができるのです

to more situations than we think.

カリフォルニアの オークランド警察と協力して

Working with the Oakland Police Department

私は同僚たちと共に 重大な罪を何も犯していない人に対する

in California,

職務質問の数を減らせるよう 手を貸すことができました

I and a number of my colleagues were able to help the department

私たちは警察官に

to reduce the number of stops they made

誰かを職務質問のために呼び止める前に こう自問するように求めました

of people who were not committing any serious crimes.

「この人を呼び止めるのは 理性からの判断かどうか」

And we did this by pushing officers

これは言い換えると

to ask themselves a question before each and every stop they made:

この人物を特定の犯罪と 結びつけるだけの

"Is this stop intelligence-led,

事前情報があるかどうかです

yes or no?"

この質問を

In other words,

警察官が職務質問中に 記入する書類に差し挟むことで

do I have prior information to tie this particular person

焦らず 立ち止まって

to a specific crime?

「どうしてこの人を呼び止めようと しているのか」と自問することになります

By adding that question

2017年に 理性に訴えるこの質問を 書類に追加する以前は

to the form officers complete during a stop,

職務質問の件数は街全体で 32,000件ほどでした

they slow down, they pause,

翌年に 質問が追加されると

they think, "Why am I considering pulling this person over?"

これが 19,000件に減りました

In 2017, before we added that intelligence-led question to the form,

アフリカ系アメリカ人に対するものだけで 実に 43％も減ったのです

officers made about 32,000 stops across the city.

黒人への職務質問が減ったことで 街の治安は悪化しませんでした

In that next year, with the addition of this question,

それどころか 犯罪件数は減少を続け

that fell to 19,000 stops.

すべての人にとって 街がより安全になったのです

African-American stops alone fell by 43 percent.

不要な職務質問の件数を減らすことは 解決法のひとつです

And stopping fewer black people did not make the city any more dangerous.

もうひとつの解決法は 実際に行う職務質問の

In fact, the crime rate continued to fall,

質を上げることです

and the city became safer for everybody.

これにはテクノロジーが 役立ちます

So one solution can come from reducing the number of unnecessary stops.

ジョージ・フロイドの死について 皆が知っているのは

Another can come from improving the quality of the stops

彼を助けようと集まった人々が 携帯電話のカメラを手にして

officers do make.

恐ろしく また命取りとなった 警察とのやり取りを録画していたからです

And technology can help us here.

とはいえ 有効に活用できていない テクノロジーが多くあります

We all know about George Floyd's death,

現在 アメリカ全土の警察は

because those who tried to come to his aid held cell phone cameras

ボディカメラの装着を 義務づけられているため

to record that horrific, fatal encounter with the police.

恐ろしく 限度を超えたような やり取りだけでなく

But we have all sorts of technology that we're not putting to good use.

日常的なやり取りも録画されています

Police departments across the country

スタンフォード大学の 学際研究チームと協力して

are now required to wear body-worn cameras

機械学習技術を利用することで

so we have recordings of not only the most extreme and horrific encounters

やり取りを収めた大量のデータを 分析し始めています

but of everyday interactions.

日常業務としての車両停止の様子を よりよく理解するためです

With an interdisciplinary team at Stanford,

ここで分かったのは

we've begun to use machine learning techniques

警察官が職務に徹した態度を 取っている場合であっても

to analyze large numbers of encounters.

黒人ドライバーに対する言葉遣いが

This is to better understand what happens in routine traffic stops.

白人に対するよりも ぞんざいだということです

What we found was that

実際 警察官が使っている 言葉だけを頼りに

even when police officers are behaving professionally,

相手のドライバーが黒人か白人かを 予測することまでできたのです

they speak to black drivers less respectfully than white drivers.

問題は これらのカメラに 収められた映像の大半が

In fact, from the words officers use alone,

警察当局が 路上で何が起きているかを理解したり

we could predict whether they were talking to a black driver or a white driver.

警察官の訓練に 利用されたりしていないことです

The problem is that the vast majority of the footage from these cameras

これは大変遺憾です

is not used by police departments

日常業務の車両停止は どのようにして 死を招くことになるのでしょう

to understand what's going on on the street

ジョージ・フロイドの事件は どのように起こったのでしょうか？

or to train officers.

他の場合には どうだったのでしょうか？

And that's a shame.

私の一番上の息子は 16歳のときに

How does a routine stop turn into a deadly encounter?

白人は自分を目にすると 恐怖を感じるのだと気づきました

How did this happen in George Floyd's case?

エレベーターは 最悪の状況なのだそうです

How did it happen in others?

ドアが閉まると

When my eldest son was 16 years old,

人々はエレベーターの狭い空間に

he discovered that when white people look at him,

危険と結びつけるように 教えられてきた相手と閉じ込められます

they feel fear.

息子は 相手が 居心地の悪そうなのを察知して

Elevators are the worst, he said.

にっこり微笑みかけて 怖くないからと安心させます

When those doors close,

息子が話しかけると

people are trapped in this tiny space

相手の身体のこわばりがほどけて

with someone they have been taught to associate with danger.

落ち着いて呼吸できるようになります

My son senses their discomfort,

彼らは 息子の話しぶりや言葉遣い 言葉の選び方を好ましく感じます

and he smiles to put them at ease,

自分と同じような人間だと 分かるのです

to calm their fears.

私はずっと 息子は父親に似て 根っから外向的なんだと思っていました

When he speaks,

でも このことを息子と 話すうちに気づいたのです

their bodies relax.

息子の笑顔は 通りすがりの他人に 親しげに振る舞うためではなかったのだと

They breathe easier.

息子の笑顔は 我が身を守るための お守りだったのです

They take pleasure in his cadence,

何千回もエレベーターに乗った経験から 自ら編み出したサバイバル法でした

his diction, his word choice.

自分の肌の色のせいで生じ 命までも危険にさらしかねない軋轢を

He sounds like one of them.

手なずける方法を 身につけつつあったのです

I used to think that my son was a natural extrovert like his father.

脳は偏見を持つように できているものです

But I realized at that moment, in that conversation,

その偏見を断ち切る方法のひとつは どうしてそう思ったのかを

that his smile was not a sign that he wanted to connect

立ち止まって振り返ることです

with would-be strangers.

自分の胸に問わねばなりません

It was a talisman he used to protect himself,

エレベーターに乗り込むときに どんな思い込みをしているのか と

a survival skill he had honed over thousands of elevator rides.

飛行機はどうでしょう？

He was learning to accommodate the tension that his skin color generated

自分の抱いている無意識の偏見を 意識するには どうすればよいでしょう？

and that put his own life at risk.

そういった思い込みに 守られるのは誰なのでしょう？

We know that the brain is wired for bias,

そして誰が危険に さらされるのでしょうか？

and one way to interrupt that bias is to pause and to reflect

こうした問いを投げかけて

on the evidence of our assumptions.

学校や法廷や警察当局をはじめ あらゆる機関が

So we need to ask ourselves:

この問いを考えるように 要求するまでは

What assumptions do we bring when we step onto an elevator?

私たちは 偏見に視界を 曇らされたままとなるでしょう

Or an airplane?

そうなってしまったなら

How do we make ourselves aware of our own unconscious bias?

私たちの誰一人として 真の意味での安全は得られないのです

Who do those assumptions keep safe?

ありがとうございました

Who do they put at risk?

Until we ask these questions

and insist that our schools and our courts and our police departments