it struck me that I was losing the ability

5年ほど前に 私は突然 気付きました

to engage with people who aren't like-minded.

自分は 考え方の違う人と

The idea of discussing hot-button issues with my fellow Americans

付き合う能力を失ってきている と

was starting to give me more heartburn

微妙な問題について アメリカ人同士で 議論しようと考えたときの

than the times that I engaged with suspected extremists overseas.

胸焼けのような感覚が

It was starting to leave me feeling more embittered and frustrated.

海外で過激派と思われる集団と 関わったときよりもひどくなり始めていました

And so just like that,

後味の悪さと苛立ちが 強く残るようになったのです

I shifted my entire focus

そう気付いた途端に

from global national security threats

私の関心は

to trying to understand what was causing this push

国家安全保障上の国際的な脅威から

towards extreme polarization at home.

国内の二極化圧力の原因を理解することへと

As a former CIA officer and diplomat

すっかり変わりました

who spent years working on counterextremism issues,

私は かつて CIA職員や外交官として

I started to fear that this was becoming a far greater threat to our democracy

過激思想の問題への対策に 年月を費やしてきましたが

than any foreign adversary.

私たちの民主主義にとっては この二極化が 海外のどの敵よりも

And so I started digging in,

遥かに重大な脅威になると 恐れるようになりました

and I started speaking out,

そこで これを深く掘り下げ

which eventually led me to being hired at Facebook

公の場で声を上げ始めたところ

and ultimately brought me here today

それをきっかけにある時 フェイスブックで働くことになり

to continue warning you about how these platforms

さらに結果的に 今ここを訪れて

are manipulating and radicalizing so many of us

皆さんに これらのプラットフォームが

and to talk about how to reclaim our public square.

いかに多くの人々を操り 過激化させているか 警告をお伝えし

I was a foreign service officer in Kenya

開かれた議論の場を いかに取り戻すか お話ししようとしています

just a few years after the September 11 attacks,

私は外交官としてケニアで働きました

and I led what some call "hearts and minds" campaigns

同時多発テロ事件の ほんの数年後のことです

along the Somalia border.

またソマリア国境沿いで 「ハートと心」の作戦と呼ばれる

A big part of my job was to build trust with communities

活動を指揮していました

deemed the most susceptible to extremist messaging.

主な任務は 過激派の影響が 最も及びやすいとされる地域で

I spent hours drinking tea with outspoken anti-Western clerics

現地との信頼関係を築くことでした

and even dialogued with some suspected terrorists,

西洋ぎらいの無遠慮な聖職者たちと 何時間も お茶を共にしたことも

and while many of these engagements began with mutual suspicion,

テロリストとおぼしき人物と 対話したこともあります

I don't recall any of them resulting in shouting or insults,

やりとりの多くは 相互不信から始まりましたが

and in some case we even worked together on areas of mutual interest.

怒号や侮辱の応酬で 終わった記憶はまったくなく

The most powerful tools we had were to simply listen, learn

利害の一致する分野で 共同作業をしたことさえありました

and build empathy.

私たちの持っていた最強のツールは 相手の話をひたすら聞き 学び

This is the essence of hearts and minds work,

気持ちを通わせるというものでした

because what I found again and again is that what most people wanted

これが「ハートと心」の活動の本質です

was to feel heard, validated and respected.

というのも 私が何度も経験したように ほとんどの人々が望むのは

And I believe that's what most of us want.

自分の声が届き 認められ 尊重されていると感じることだったからです

So what I see happening online today is especially heartbreaking

私たちの大半も 同じことを望むはずです

and a much harder problem to tackle.

それで 今のネットで見られる事態には 胸の張りさける思いがしますし

We are being manipulated by the current information ecosystem

遥かに対策の難しい問題とも 感じられるのです

entrenching so many of us so far into absolutism

私たちは 現在の情報システムの 生態系に操られており

that compromise has become a dirty word.

余りにも多くの人が 極端な思想に染め上げられて

Because right now,

妥協という言葉も禁句に なってしまいました

social media companies like Facebook

というのも 現在

profit off of segmenting us and feeding us personalized content

フェイスブックなどの ソーシャルメディアの収益源が

that both validates and exploits our biases.

私たちを分類した上で

Their bottom line depends on provoking a strong emotion

偏見を正当化し悪用するような 個人化コンテンツを送り付けることだからです

to keep us engaged,

彼らの最終損益を左右するのは 強い感情を掻き立てて

often incentivizing the most inflammatory and polarizing voices,

投稿や共有を続けさせることなので

to the point where finding common ground no longer feels possible.

最も扇動的で極端な意見を 奨励することとなりがちで

And despite a growing chorus of people crying out for the platforms to change,

結果的に お互いの共通点を探すことも 不可能と感じるほどになりました

it's clear they will not do enough on their own.

また そんなプラットフォームの 変更を求める声がどんなに増えても

So governments must define the responsibility

企業が自ら十分な対策を 講じないのは明らかです

for the real-world harms being caused by these business models

そこで政府は こうしたビジネスモデルから

and impose real costs on the damaging effects

実生活に及ぼされる悪影響についての 責任を明確にして

they're having to our public health, our public square and our democracy.

私たちの公衆衛生や 開かれた議論の場や 民主主義に与えた損害に関する

But unfortunately, this won't happen in time for the US presidential election,

全ての費用を払わせなければなりません

so I am continuing to raise this alarm,

ただ残念ながら それも 米大統領選には間に合わないでしょう

because even if one day we do have strong rules in place,

それで 私は警告を発し続けています

it will take all of us to fix this.

なぜなら いつか強い規制が 実現したとしても

When I started shifting my focus from threats abroad

解決には私たち全員の力が 必要だからです

to the breakdown in civil discourse at home,

自分の関心が 海外の脅威から

I wondered if we could repurpose some of these hearts and minds campaigns

国内の社会的な対話の崩壊へと 移ったとき

to help heal our divides.

私は「ハートと心」の作戦の一部が 私たちの分断の修復にも

Our more than 200-year experiment with democracy works

転用できるのでは と考えました

in large part because we are able to openly and passionately

200年以上かけて培った 民主主義が 成果をあげている大きな理由は

debate our ideas for the best solutions.

私たちは 熱い 開かれた議論を通じて

But while I still deeply believe

最良の解決策を見出すことができるからです

in the power of face-to-face civil discourse,

ただ 私は直接会って得られる

it just cannot compete

相互理解の力を 今でも深く信奉する一方

with the polarizing effects and scale of social media right now.

それだけでは

The people who are sucked down these rabbit holes

現在のソーシャルメディアの二極化効果と 規模には 太刀打ちできないと考えます

of social media outrage

ソーシャルメディアの暴力という アリ地獄に呑み込まれた人々を

often feel far harder to break of their ideological mindsets

観念的な思考から解放するのは かつての不安定地域での活動よりも

than those vulnerable communities I worked with ever were.

遥かに難しいと感じることも よくあります

So when Facebook called me in 2018

そこで2018年に フェイスブックからの電話で

and offered me this role

選挙における政治広告を 適正に運営する責任者という

heading its elections integrity operations for political advertising,

役割を提示されたときには

I felt I had to say yes.

これは受けねば と思いました

I had no illusions that I would fix it all,

自分が全て解決しようなどという 幻想はなかったものの

but when offered the opportunity

船の針路をより良い方向へと

to help steer the ship in a better direction,

導くことを手伝う機会が与えられるというなら

I had to at least try.

断る手はありませんでした

I didn't work directly on polarization,

業務で二極化を直接扱いは しませんでしたが

but I did look at which issues were the most divisive in our society

この社会を分断する 一番の問題が何なのか

and therefore the most exploitable in elections interference efforts,

またそれ故に 選挙妨害に 一番弱い部分がどこなのかには着目しました

which was Russia's tactic ahead of 2016.

そこを ロシアが2016年の選挙で 戦略的に攻めたからです

So I started by asking questions.

まずは疑問点を挙げてみました

I wanted to understand the underlying systemic issues

こんな事態の発生を許した

that were allowing all of this to happen,

システム上の問題点を理解した上で

in order to figure out how to fix it.

解決方法を見つけたかったのです

Now I still do believe in the power of the internet

私は今でもインターネットには より多くの意見を

to bring more voices to the table,

引き出す力があると信じていますが

but despite their stated goal of building community,

コミュニティの構築という 公に掲げた目標にもかかわらず

the largest social media companies as currently constructed

現在 築き上げられた 巨大ソーシャルメディア企業は

are antithetical to the concept of reasoned discourse.

理性ある対話という概念とは 真逆の存在です

There's no way to reward listening,

人の話に耳を傾けることに報いたり

to encourage civil debate

開かれた議論を促したり

and to protect people who sincerely want to ask questions

真摯に質問したい人々を保護したりする 手段が全くありません

in a business where optimizing engagement and user growth

このビジネスでは ユーザ関与の最適化とユーザの増加が

are the two most important metrics for success.

成功のために最も重要な ２つの指標になっているからです

There's no incentive to help people slow down,

人々が関与する前に 一旦落ち着かせて

to build in enough friction that people have to stop,

立ち止まらせるような 干渉機能を設けて

recognize their emotional reaction to something,

何かに感情的な反応を していると気付かせ

and question their own assumptions before engaging.

憶測を自省させるような試みへの 動機付けはありません

The unfortunate reality is:

不幸な現実があります

lies are more engaging online than truth,

オンラインでは 真実よりも嘘の方が興味をそそり

and salaciousness beats out wonky, fact-based reasoning

わいせつな話題が 真面目で事実に基づく論理を追いやります

in a world optimized for frictionless virality.

それが干渉なく拡散をすることに 最適化された世界なのです

As long as algorithms' goals are to keep us engaged,

アルゴリズムの目的が 私たちに 関与を続けさせることである限り

they will continue to feed us the poison that plays to our worst instincts

彼らは 最悪の本能や 人間の弱点を引き付ける毒薬を

and human weaknesses.

私たちに送り続けるでしょう

And yes, anger, mistrust,

確かに 怒り 不信

the culture of fear, hatred:

恐れの文化 憎しみ

none of this is new in America.

どれも アメリカでは 目新しいことではありません

But in recent years, social media has harnessed all of that

でも 近年 ソーシャルメディアが これら全てに付け入って

and, as I see it, dramatically tipped the scales.

劇的に局面を変えたと 私は考えます

And Facebook knows it.

そしてフェイスブックも それを知っています

A recent "Wall Street Journal" article

『ウォールストリート・ジャーナル』誌の 最近の記事で

exposed an internal Facebook presentation from 2018

フェイスブックの 2018年の社内報告が暴露されました

that specifically points to the companies' own algorithms

その報告は 自社のアルゴリズムが

for growing extremist groups' presence on their platform

フェイスブック上の 過激派グループの存在感を強め

and for polarizing their users.

ユーザの二極化を招くと 特定していました

But keeping us engaged is how they make their money.

でも 私たちに関与を続けさせるのは 彼らの金儲けの手段です

The modern information environment is crystallized around profiling us

現代の情報環境は徹底的に 私たちの属性を抽出し

and then segmenting us into more and more narrow categories

それを 細かいカテゴリーへと 細分化し続けて

to perfect this personalization process.

個人化プロセスを突き詰めます

We're then bombarded with information confirming our views,

それが済むと 人々の見解を追認し 偏見を助長し

reinforcing our biases,

自分が何かに帰属していると 感じさせるような情報が

and making us feel like we belong to something.

大量に送り付けられます

These are the same tactics we would see terrorist recruiters

これらはテロリストのスカウトが

using on vulnerable youth,

無防備な若者に対して 使うのと同じ手口です

albeit in smaller, more localized ways before social media,

ソーシャルメディア以前は 小規模で地域別に行われていましたが

with the ultimate goal of persuading their behavior.

相手の行動を変えさせるという 最終目標は同じです

Unfortunately, I was never empowered by Facebook to have an actual impact.

残念ながら 私はフェイスブックを 変える程の力は与えられませんでした

In fact, on my second day, my title and job description were changed

実際 ２日目には 肩書と 職務の内容が変更されて

and I was cut out of decision-making meetings.

意思決定をする会議からも 外されてしまいました

My biggest efforts,

政治広告から ニセ情報や投票妨害を 排除するための計画の策定に

trying to build plans

私は一番力を注ぎましたが

to combat disinformation and voter suppression in political ads,

提案は却下されました

were rejected.

結局 私が働いたのはわずか半年弱です

And so I lasted just shy of six months.

ただ そこで働いたことで 得られた一番の気づきは次のことです

But here is my biggest takeaway from my time there.

フェイスブックの社内では

There are thousands of people at Facebook

何千人もの人が

who are passionately working on a product

より良い世界を作ると心から信じる機能に 情熱的に取り組んでいます

that they truly believe makes the world a better place,

しかし会社がこのまま コンテンツの指針や調停機能について

but as long as the company continues to merely tinker around the margins

枝葉をいじくり回すだけで

of content policy and moderation,

仕組み全体の設計と収益の上げ方を 見直さない限り

as opposed to considering

このプラットフォームがもたらしている 憎しみや分断や過激化への

how the entire machine is designed and monetized,

真の対策は決して実現しないでしょう

they will never truly address how the platform is contributing

そして 私の在籍中に そんな話は 全く耳にしませんでした

to hatred, division and radicalization.

なぜなら そのとき求められるのは 自ら構築したものが

And that's the one conversation I never heard happen during my time there,

社会にとっては最善でないかもしれないと 認めることであり

because that would require fundamentally accepting

全ての機能と収益モデルの変更に 同意することに他ならないからです

that the thing you built might not be the best thing for society

では私たちには何ができるでしょうか？

and agreeing to alter the entire product and profit model.

私はソーシャルメディアのみに 今の事態の責任があると

So what can we do about this?

言っているのではありません

I'm not saying that social media bears the sole responsibility

明らかに 私たちは解決すべき 根深い社会問題を抱えています

for the state that we're in today.

でも これが社会を映す鏡に過ぎないという フェイスブックの回答は

Clearly, we have deep-seated societal issues that we need to solve.

全ての責任を免れようとする 体のいい方便であって

But Facebook's response, that it is just a mirror to society,

自社のプラットフォームが 有害なコンテンツを増幅して

is a convenient attempt to deflect any responsibility

一部ユーザを過激思想に駆り立てていることは 省みていません

from the way their platform is amplifying harmful content

しかも フェイスブックはその気があれば

and pushing some users towards extreme views.

一部を解決できるのです

And Facebook could, if they wanted to,

陰謀論者やヘイトグループや ニセ情報を広める人たちの発言を

fix some of this.

広めたり お勧めするのは やめることができます

They could stop amplifying and recommending the conspiracy theorists,

そう ときには大統領の発言もです

the hate groups, the purveyors of disinformation

政治的発言を広めるのに スニーカー販売と同じ

and, yes, in some cases even our president.

個人化テクニックを使うのも やめることができます

They could stop using the same personalization techniques

アルゴリズムを再学習させて

to deliver political rhetoric that they use to sell us sneakers.

ユーザの関与以外の指標に 焦点を当てることも

They could retrain their algorithms

ある種のコンテンツが チェックの前に拡散しないように

to focus on a metric other than engagement,

防御壁を設けることもできます

and they could build in guardrails to stop certain content from going viral

そして これら全てを行うのに

before being reviewed.

彼らが言う「真実の決定者」に なる必要はありません

And they could do all of this

しかし自ら明言したとおり 彼らは強制されなければ

without becoming what they call the arbiters of truth.

正しい方向に踏み出すことは ないでしょう

But they've made it clear that they will not go far enough

正直なところ その必要がありますか？

to do the right thing without being forced to,

市場の評価は高く 法律を犯している訳でもありません

and, to be frank, why should they?

なぜなら 今のところ

The markets keep rewarding them, and they're not breaking the law.

米国の法律では フェイスブックを含む いかなるソーシャルメディア企業も

Because as it stands,

開かれた議論の場や民主主義 それに選挙すら保護する義務がないのです

there are no US laws compelling Facebook, or any social media company,

開かれた議論の場や民主主義 それに選挙すら保護する義務がないのです

to protect our public square,

私たちは どんなことを制限し 何を強制するかという意思決定を

our democracy

利益重視のネット企業の CEOたちにゆだねてしまっています

and even our elections.

私たち こんなものが欲しいのでしょうか？

We have ceded the decision-making on what rules to write and what to enforce

有害情報や部族主義が 架け橋や総意形成に勝るような

to the CEOs of for-profit internet companies.

真実を見失った世界が？

Is this what we want?

私は今でも 自分たちのお互いの共通点は

A post-truth world where toxicity and tribalism

今のメディアやオンライン環境が 描くよりも多いと楽観しています

trump bridge-building and consensus-seeking?

また より多面的な物の見方が

I do remain optimistic that we still have more in common with each other

より堅固で開かれた民主主義を 作り上げると 信じています

than the current media and online environment portray,

でもそれは 現在とは違う形のものです

and I do believe that having more perspective surface

強調しますが 私はこうした企業を 葬り去りたい訳ではありません

makes for a more robust and inclusive democracy.

ただ 社会の他のメンバーと同じように ある程度の責任を

But not the way it's happening right now.

果たしてもらいたいだけなのです

And it bears emphasizing, I do not want to kill off these companies.

今こそ政府が立ち上がって 国民生活を守るという

I just want them held to a certain level of accountability,

職務を果たす時です

just like the rest of society.

魔法のように ひとつで全てを解決する

It is time for our governments to step up and do their jobs

法律ができるとは思いませんが

of protecting our citizenry.

政府が言論の自由を守りながら 企業に社会的影響の責任を取らせるような

And while there isn't one magical piece of legislation

うまいバランスを見出すことは

that will fix this all,

可能であり 必要であると信じています

I do believe that governments can and must find the balance

しかも 政府は 透明性を強く要求することで ある程度はそれが実現できます

between protecting free speech

透明化が必要なのは 推奨エンジンの働き方と

and holding these platforms accountable for their effects on society.

まとめサービス 増幅 そして ターゲティングのやり方に関してです

And they could do so in part by insisting on actual transparency

お察しのように 私が企業に 責任を取らせたいのは

around how these recommendation engines are working,

一個人が流した虚偽の情報とか 極端な表現についてではなく

around how the curation, amplification and targeting are happening.

彼らの推奨エンジンが その投稿を拡散させるやり方や

You see, I want these companies held accountable

彼らのアルゴリズムが 人々をその投稿に誘導するやり方や

not for if an individual posts misinformation

彼らのツールがその投稿を ターゲティングする方法に対してです

or extreme rhetoric,

私はフェイスブックの内部から 変革を試みて失敗しました

but for how their recommendation engines spread it,

ですから ここ数年は 再び自分の声を使って

how their algorithms are steering people towards it,

警告を発し続けながら

and how their tools are used to target people with it.

これに触発されて 責任を追及する声が さらに高まることを願っています

I tried to make change from within Facebook and failed,

私から皆さんへのメッセージはシンプルです

and so I've been using my voice again for the past few years

地元の議員に圧力を掛けて

to continue sounding this alarm

開かれた議論の場を 営利団体に 明け渡すのを止めさせるのです

and hopefully inspire more people to demand this accountability.

友人や家族にも 皆がオンラインで

My message to you is simple:

いかに操られているかを 教えてあげてください

pressure your government representatives

考え方の違う人たちとも 付き合う努力をしてください

to step up and stop ceding our public square to for-profit interests.

この問題を優先して扱ってください

Help educate your friends and family

これを解決するには 社会全体の取り組みが必要です

about how they're being manipulated online.

ここからは 以前の雇用主である フェイスブック首脳陣へのメッセージです

Push yourselves to engage with people who aren't like-minded.

現在は 人々が貴社のツールを 設計されたとおりに使い

Make this issue a priority.

憎しみや分断や不信が生み出されています

We need a whole-society approach to fix this.

それを許しているだけでなく それを可能にしているのが貴社なのです

And my message to the leaders of my former employer Facebook is this:

確かに 世界中で貴社のプラットフォームの