The minute you stop scrolling, they lose money.

あなたがスクロールするのを止めた瞬間、彼らはお金を失う。

All their algorithms are designed with literally one goal.

彼らのアルゴリズムはすべて、文字通りひとつの目標に向かって設計されている。

What will keep you scrolling?

何があなたをスクロールさせ続けるのか？

That's it.

それだけだ。

That's the goal, right?

それがゴールだろ？

So as the algorithms and the AI were figuring out what keeps people scrolling, they bumped into, they uncovered a human quirk, which is not the intention of anyone at Facebook or YouTube or any of these places, which is called, it's a very well-documented psychological phenomenon called negativity bias, which is basically means we will stare at something negative longer than we will stare at something positive.

アルゴリズムとAIが、何が人々をスクロールさせ続けるのかを解明していくうちに、彼らは人間の癖にぶつかった。これはフェイスブックやユーチューブ、あるいはこれらの場所の誰が意図したわけでもないが、ネガティビティ・バイアスと呼ばれる、非常によく知られた心理現象だ。

Anyone who's ever been driving down the motorway and passed a car crash knows exactly what I'm talking about.

高速道路を運転していて交通事故とすれ違ったことのある人なら、私が何を言っているのかよくわかるだろう。

You stare at the car crash longer than you stare at the pretty flowers on the other side of the road, right?

道路の反対側に咲いているきれいな花を見つめるより、車の衝突事故を見つめる方が長いだろ？

And this is, negativity bias goes very deep. 10 week old babies will stare longer at an angry face than a smiling face.

そしてこれは、否定的バイアスは非常に深い。生後10週間の赤ちゃんは、笑った顔よりも怒った顔を長く見つめる。

But when this meets algorithms designed to maximize the harvesting of attention, this produces a catastrophic effect.

しかし、これが注目を最大限に集めるように設計されたアルゴリズムと出会うと、破滅的な効果を生む。

And this was, this is not my view.

そして、これは私の見解ではない。

This is what Facebook itself found in its own internal research, which we've now had leaked.

これは、フェイスブック自身が社内調査で発見したもので、現在、私たちがリークしている。

Imagine a teenager, group of teenagers go to a party.

ティーンエイジャーのグループを想像してほしい。

One of them goes home and on the bus on the way home, they say, that was a really lovely party.

そのうちの一人が家に帰り、帰りのバスの中で、本当に素敵なパーティーだったね、と言う。

I enjoyed it.

楽しかった。

Everyone looked great.

みんないい顔をしていた。

And they were so nice.

そして彼らはとても親切だった。

Another teenager from the same party posts, God, Karen looked like a right slag tonight.

同じパーティーの別のティーンエイジャーが投稿した。

Her boyfriend, Jim is a twat.

ボーイフレンドのジムは嫌な奴だ。

What does the algorithm do?

アルゴリズムは何をするのか？

The second one is more like the car crash.

2つ目は交通事故のようなものだ。

People will stare at it longer.

人々はより長くそれを見つめるだろう。

The algorithm will promote it in the feed.

アルゴリズムがそれをフィードで宣伝する。

It will put it much higher.

その方がずっと高くなる。

The nice one, that's going to be way down if anyone sees it, right?

いいものは、もし誰かが見たら、ずっと下に落ちるだろうね？

The algorithm select for anger because anger will keep you scrolling, right?

アルゴリズムが怒りを選択するのは、怒りがあればスクロールを続けられるからだろう？

This was inherent to the Facebook business model.

これはフェイスブックのビジネスモデルに内在するものだった。

And the only alternative was for Facebook to abandon its business model and adopt what they called an anti-growth model where they said, we won't grow as a company, but we won't set the world on fire, right?

唯一の選択肢は、フェイスブックがビジネスモデルを放棄し、反成長モデルと呼ばれるものを採用することだった。

The Wall Street Journal who got leaked it.

リークしたのはウォール・ストリート・ジャーナル紙。

They said, their new story said, after he received this report, Mark Zuckerberg asked that he never be brought any reports like this ever again, right?

マーク・ザッカーバーグはこの報告書を受け取った後、二度とこのような報告書を持ってこないでくれと頼んだと、彼らは新しい記事で言っている。

So, you know, they know what they're doing.

だから、彼らは自分たちが何をしているのかわかっている。

They're tied to their business model.

彼らはビジネスモデルに縛られている。

They're only going to stop doing it when we make them.

私たちがそうさせれば、彼らはそうしなくなる。

But this machinery that is amping us up into anger, firstly, it destroys attention.

しかし、私たちを怒りに駆り立てるこの機械は、まず第一に、注意を破壊する。

When you're angry, it's much harder to pay attention.

怒っているときは、注意を払うのはずっと難しい。

We've all had that experience, but also it's devastating for the society.

私たちは皆、そのような経験をしてきた。

And we've got to deal with that.

それに対処しなければならない。

At the moment, if you've got all these smart engineers and they've got one incentive, how do I take Stephen's attention the absolute most I can, right?

今のところ、賢いエンジニアがたくさんいて、彼らには1つのインセンティブがある。

They don't work for you, but they work for the advertiser.

彼らはあなたのために働くのではなく、広告主のために働くのだ。

You have to change the incentives and then they will do it.

インセンティブを変えなければならない。

When the incentives change, then obviously their behaviour changes, right?

インセンティブが変われば、彼らの行動も明らかに変わるだろう？

If they want to please you rather than pleasing the advertiser, then of course the market will then provide all sorts of ways.

広告主を喜ばせるのではなく、あなたを喜ばせたいのであれば、もちろん市場はあらゆる方法を提供する。

At the moment, the competition is how do I maximally invade your attention?

現時点では、いかにあなたの注意を最大限に引くかが勝負だ。

If we move to a new business model, the competition is what does Stephen actually want?

新しいビジネスモデルに移行した場合、スティーブンが実際に何を望んでいるのかが競争相手となる。

If Stephen wants to know where his friends are so we can have a drink with them, okay, give him that button.

もしスティーブンが友達の居場所を知りたいなら、一緒に飲もう。

What else does Stephen want?

スティーブンは他に何を望んでいるんだ？

Stephen wants to meditate.

スティーブンは瞑想したいんだ。

Oh, we'll give him that button.

ああ、そのボタンを彼にあげよう。

You can see how once they're figuring out what you want, not what the advertisers want, then of course the market begins to experiment and there'll be a thousand innovations.

広告主が何を望むかではなく、あなたが何を望むかが分かれば、当然、市場は実験を始め、千差万別のイノベーションが生まれる。