It's a bit funny, because I did write that humans will become digital,

皆さん こんにちは

but I didn't think it will happen so fast

確かに私は人間がいつか デジタルになると著書に書きましたが

and that it will happen to me.

こんなに早く しかも 自分自身がそうなるなんて

But here I am, as a digital avatar,

思いもしませんでした

and here you are, so let's start.

ともかく デジタルアバターとして 私はここにいます

And let's start with a question.

それでは皆さん 始めましょう

How many fascists are there in the audience today?

まずは質問させてください

(Laughter)

本日お集まりの皆さんの中に ファシストの方はどれくらいいますか？

Well, it's a bit difficult to say,

（笑）

because we've forgotten what fascism is.

少々答えにくいかもしれませんね

People now use the term "fascist"

私たちがファシズムとは何かを 忘れているからです

as a kind of general-purpose abuse.

最近は「ファシスト」という言葉を

Or they confuse fascism with nationalism.

多くの用途に使い過ぎています

So let's take a few minutes to clarify what fascism actually is,

あるいは ファシズムを ナショナリズムと混同しています

and how it is different from nationalism.

それでは 少し時間を頂いて ファシズムとは本当は何なのか

The milder forms of nationalism have been among the most benevolent

また ナショナリズムとの違いについて 明らかにしましょう

of human creations.

「穏やかな」ナショナリズムは 人間の生み出したものの中でも

Nations are communities of millions of strangers

最も善意に満ちた部類に入ります

who don't really know each other.

国家とは お互いを良く知らない人々が

For example, I don't know the eight million people

何百万人も集まった共同体です

who share my Israeli citizenship.

例えば 私は 同じイスラエル国籍を持つ

But thanks to nationalism,

８百万人の人々のことを 知りません

we can all care about one another and cooperate effectively.

しかしナショナリズムのおかげで

This is very good.

私たちはお互いを気にかけて 効果的に協力し合うことができます

Some people, like John Lennon, imagine that without nationalism,

これはとても良いことです

the world will be a peaceful paradise.

中にはジョン・レノンのように ナショナリズムの無い世の中は

But far more likely,

平和なパラダイスになると 想像する人もいますが

without nationalism, we would have been living in tribal chaos.

それよりも ナショナリズムがなければ

If you look today at the most prosperous and peaceful countries in the world,

部族的なカオスの中で 生きる可能性がずっと高いでしょう

countries like Sweden and Switzerland and Japan,

現在 世界で最も繁栄していて 平和な国

you will see that they have a very strong sense of nationalism.

スウェーデンやスイス 日本のような国を見ると

In contrast, countries that lack a strong sense of nationalism,

ナショナリズムの感覚を 強く持っている国だとわかります

like Congo and Somalia and Afghanistan,

逆に ナショナリズムの感覚が希薄な

tend to be violent and poor.

コンゴやソマリア アフガニスタンのような国では

So what is fascism, and how is it different from nationalism?

暴力と貧困の傾向が見られます

Well, nationalism tells me that my nation is unique,

さてファシズムとは何で ナショナリズムとはどう違うのでしょう？

and that I have special obligations towards my nation.

ナショナリズムは 自分の国は特別であり

Fascism, in contrast, tells me that my nation is supreme,

自分は自国に対して特別な 義務を負っているという考え方です

and that I have exclusive obligations towards it.

一方ファシズムは 自分の国こそ最も優れており

I don't need to care about anybody or anything other than my nation.

自分は自国に対してだけ 義務があるという考え方です

Usually, of course, people have many identities

自分の国以外の誰も何事も 気にかける必要がないということです

and loyalties to different groups.

もちろん 一般的に見て 人それぞれ複数のアイデンティティがあり

For example, I can be a good patriot, loyal to my country,

異なる集団に 忠誠心を抱いています

and at the same time, be loyal to my family,

たとえば 私が善良な愛国者で 自分の国に忠誠心を持っているとして

my neighborhood, my profession,

同時に 自分の家族や

humankind as a whole,

近所の人たち 自分の仕事

truth and beauty.

人類全体

Of course, when I have different identities and loyalties,

真実や美に対しても 忠実かもしれません

it sometimes creates conflicts and complications.

もちろん いろいろなアイデンティティや 忠誠心があることで

But, well, who ever told you that life was easy?

矛盾や問題が生じることもあります

Life is complicated.

しかし そもそも誰が 人生は単純なものだと言ったのでしょう？

Deal with it.

人生は複雑なのです

Fascism is what happens when people try to ignore the complications

対処していくしかありません

and to make life too easy for themselves.

ファシズムは 人々が複雑性を無視し

Fascism denies all identities except the national identity

自分だけ楽して 生きようとする時に生まれます

and insists that I have obligations only towards my nation.

ファシズムは国民としての自己認識を別として 全てのアイデンティティを否定し

If my nation demands that I sacrifice my family,

個人は国に対してのみ 責任があるのだと主張します

then I will sacrifice my family.

国が家族を犠牲にせよと 命令したら

If the nation demands that I kill millions of people,

家族を犠牲にし

then I will kill millions of people.

国が何百万人もの人を 殺せと命じたら

And if my nation demands that I betray truth and beauty,

何百万人の人を殺すのです

then I should betray truth and beauty.

国が真実と美に 背を向けろと命じたら

For example, how does a fascist evaluate art?

真実と美に背かなければなりません

How does a fascist decide whether a movie is a good movie or a bad movie?

例えば ファシストは芸術を どのように評価するでしょう？

Well, it's very, very, very simple.

映画の良し悪しは どのように判断するでしょう？

There is really just one yardstick:

これは 非常に 非常に単純です

if the movie serves the interests of the nation,

モノサシは１つしかありません

it's a good movie;

その映画が国の利益に 供するものであれば

if the movie doesn't serve the interests of the nation,

それは良い映画で

it's a bad movie.

国の利益に反するものであれば

That's it.

それは悪い映画なのです

Similarly, how does a fascist decide what to teach kids in school?

それだけです

Again, it's very simple.

同様に ファシストは 学校で教える内容をどう決めるのでしょう？

There is just one yardstick:

これもまた 非常に単純です

you teach the kids whatever serves the interests of the nation.

モノサシは１つです

The truth doesn't matter at all.

何であれ国の利益に 供することを教えればいいのです

Now, the horrors of the Second World War and of the Holocaust remind us

真実かどうかは全く問題になりません

of the terrible consequences of this way of thinking.

第二次世界大戦と ホロコーストの恐怖は

But usually, when we talk about the ills of fascism,

このような考え方が酷い結果を 招いたことを思い出させます

we do so in an ineffective way,

しかし ファシズムの邪悪さを 伝えようとする時

because we tend to depict fascism as a hideous monster,

私たちの語り方は 効果的ではありません

without really explaining what was so seductive about it.

恐ろしいモンスターのように 描写するだけで

It's a bit like these Hollywood movies that depict the bad guys --

ファシズムの何が 人をそれ程までに 惹きつけてしまうのかを説明していません

Voldemort or Sauron or Darth Vader --

ある意味 ハリウッド映画の 悪役のように描いています

as ugly and mean and cruel.

ヴォルデモートやサウロン ダース・ベイダーなどのように

They're cruel even to their own supporters.

醜く卑劣で残忍なものとしてです

When I see these movies, I never understand --

悪役たちは自分を支持する人々 に対しても冷酷です

why would anybody be tempted to follow a disgusting creep like Voldemort?

私はそうした映画を見ると どうしても分からないのです

The problem with evil is that in real life,

ヴォルデモートのようなおぞましい悪人に 誰がついていきたいと思うのか

evil doesn't necessarily look ugly.

「悪」という概念の 実世界での問題点は

It can look very beautiful.

必ずしも醜くは 見えないということです

This is something that Christianity knew very well,

とても美しく見えることもあります

which is why in Christian art, as [opposed to] Hollywood,

キリスト教はこのことを よく理解しているので

Satan is usually depicted as a gorgeous hunk.

キリスト教の宗教画は ハリウッド映画とは違って

This is why it's so difficult to resist the temptations of Satan,

たいていサタンを立派な男性美 として描いています

and why it is also difficult to resist the temptations of fascism.

だからこそサタンの誘惑に 打ち勝つのは難しいのです

Fascism makes people see themselves

ファシズムの魅力に打ち勝つのが 難しいのも同じです

as belonging to the most beautiful and most important thing in the world --

ファシズムは人々に

the nation.

自分は世界で最も美しく最も大切なものに 属しているのだと思わせます

And then people think,

国家のことです

"Well, they taught us that fascism is ugly.

すると人々はこう思います

But when I look in the mirror, I see something very beautiful,

「ファシズムは醜いものだと 教わりました

so I can't be a fascist, right?"

でも 鏡にはとても美しいものが 映っているから

Wrong.

私はファシストではないですよね？」

That's the problem with fascism.

違います

When you look in the fascist mirror,

これがファシズムの問題なのです

you see yourself as far more beautiful than you really are.

ファシストの目で鏡を見ると

In the 1930s, when Germans looked in the fascist mirror,

自分が本来の姿より ずっと美しく見えるのです

they saw Germany as the most beautiful thing in the world.

1930年代にドイツ人が ファシストの目で鏡を見た時

If today, Russians look in the fascist mirror,

ドイツが世界の何よりも 美しく見えたはずです

they will see Russia as the most beautiful thing in the world.

今 ロシア人が ファシストの目で鏡を見たら

And if Israelis look in the fascist mirror,

ロシアが世界の何よりも 美しく見えるでしょう

they will see Israel as the most beautiful thing in the world.

イスラエル人が ファシストの目で鏡を見れば

This does not mean that we are now facing a rerun of the 1930s.

イスラエルが世界の何よりも 美しく見えるはずです

Fascism and dictatorships might come back,

これは1930年代の出来事が 繰り返されているという意味ではありません

but they will come back in a new form,

ファシズムや独裁が 再び起こるかもしれませんが

a form which is much more relevant

それは 姿を変え

to the new technological realities of the 21st century.

21世紀の新しい技術の現状に

In ancient times,

もっと即した形で復活することでしょう

land was the most important asset in the world.

古代の世の中においては

Politics, therefore, was the struggle to control land.

土地は最も重要な資産でした

And dictatorship meant that all the land was owned by a single ruler

だから政略とは土地を 支配することでした

or by a small oligarch.

そして独裁とは全ての土地の所有権が １人の支配者

And in the modern age, machines became more important than land.

あるいは少数の寡頭制支配者に 属することを意味しました

Politics became the struggle to control the machines.

近代になると 土地よりも 機械が重要になり

And dictatorship meant

機械を支配しようとする 政略に移りました

that too many of the machines became concentrated

よって独裁とは

in the hands of the government or of a small elite.

過剰な程 多くの機械が 政府や一握りのエリートの手に

Now data is replacing both land and machines

集中することを意味しました

as the most important asset.

現在では データが最も重要な資産として 土地や機械に取って代わりつつあります

Politics becomes the struggle to control the flows of data.

今や政治とは データの流れを コントロールするために骨を折ることであり

And dictatorship now means

そして今や独裁とは

that too much data is being concentrated in the hands of the government

過剰な量のデータが 政府や一握りのエリートに

or of a small elite.

集中することを意味します

The greatest danger that now faces liberal democracy

自由民主主義が直面している 最大の危機は

is that the revolution in information technology

情報革命のせいで

will make dictatorships more efficient than democracies.

民主主義よりも独裁のほうが 効率が良くなってしまうことです

In the 20th century,

20世紀には

democracy and capitalism defeated fascism and communism

民主主義と資本主義が ファシズムと共産主義に勝利しましたが

because democracy was better at processing data and making decisions.

それは民主主義の方がデータ処理と 意思決定に優れていたからです

Given 20th-century technology,

20世紀のテクノロジーは

it was simply inefficient to try and concentrate too much data

多くのデータと 多大な権力を一手に集中させることに

and too much power in one place.

単に向いていなかったのです

But it is not a law of nature

しかし分散データ処理よりも

that centralized data processing is always less efficient

集中データ処理の方が 常に非効率だというのは

than distributed data processing.

自然の理に反します

With the rise of artificial intelligence and machine learning,

人工知能や機械学習の台頭により

it might become feasible to process enormous amounts of information

膨大な量の情報を

very efficiently in one place,

一ヶ所で効率的に処理し

to take all the decisions in one place,

一ヶ所で全ての決定を下すといったことも 可能になるかもしれません

and then centralized data processing will be more efficient

そうなれば 集中データ処理の方が

than distributed data processing.

分散データ処理よりも 効率が良くなります

And then the main handicap of authoritarian regimes

20世紀の独裁体制にとって

in the 20th century --

負担になっていたのは

their attempt to concentrate all the information in one place --

情報を一か所に集中する試みでしたが

it will become their greatest advantage.

それこそが最大の利点に なるかもしれません

Another technological danger that threatens the future of democracy

未来の民主主義を脅かす もう一つの技術面の脅威は

is the merger of information technology with biotechnology,

情報テクノロジーと バイオテクノロジーの融合です

which might result in the creation of algorithms

これにより自分よりももっと 自分のことを知っている

that know me better than I know myself.

アルゴリズムが生まれる 可能性があります

And once you have such algorithms,

このようなアルゴリズムが生まれると

an external system, like the government,

政府など外部のシステムが

cannot just predict my decisions,

私の意思決定を予見するだけでなく

it can also manipulate my feelings, my emotions.

私の感情や情動を操ることが できるようになります

A dictator may not be able to provide me with good health care,

独裁者は私に十分な医療制度を 提供できないかもしれませんが

but he will be able to make me love him

私が独裁者を愛し

and to make me hate the opposition.

敵対者を憎むように 仕向けることができます

Democracy will find it difficult to survive such a development

民主主義がこのような変化を 切り抜けるのは難しいでしょう

because, in the end,

なぜなら結局のところ

democracy is not based on human rationality;

民主主義とは人間の合理性ではなく

it's based on human feelings.

感情によって左右されるからです

During elections and referendums,

選挙や国民投票では

you're not being asked, "What do you think?"

「どう考えるか」ではなく

You're actually being asked, "How do you feel?"

「どう感じるか」を問われています

And if somebody can manipulate your emotions effectively,

そしてもし誰かが人の感情を 効果的に操作できるとしたら

democracy will become an emotional puppet show.

民主主義は感情を操る 人形劇になってしまいます

So what can we do to prevent the return of fascism

ファシズムの再来と

and the rise of new dictatorships?

新しい独裁の台頭を防ぐには どうすれば良いのでしょう

The number one question that we face is: Who controls the data?

私たちが直面する第一の問いは 「誰がデータを支配するのか」です

If you are an engineer,

あなたがエンジニアであれば

then find ways to prevent too much data

一部の人の手へのデータの集中を

from being concentrated in too few hands.

防ぐ方法を考えて下さい

And find ways to make sure

そして分散型のデータ処理が

the distributed data processing is at least as efficient

集中データ処理と

as centralized data processing.

少なくとも同じくらいは 効率的であるようにしてください

This will be the best safeguard for democracy.

これが民主主義にとって 最良の防御壁になります

As for the rest of us who are not engineers,

エンジニア以外の人々にとっては

the number one question facing us

目の前にある一番の問題は

is how not to allow ourselves to be manipulated

いかにして データを支配する者に 操られないようにするかです

by those who control the data.

自由民主主義の敵の やり方は

The enemies of liberal democracy, they have a method.

私たちの感情を ハッキングすることです

They hack our feelings.

Eメールや銀行口座ではなく

Not our emails, not our bank accounts --

私たちの恐怖や憎しみ 虚栄心といった感情をハッキングし

they hack our feelings of fear and hate and vanity,

次に こうした感情を利用して

and then use these feelings

民主主義を二極化させ 内側から破壊します

to polarize and destroy democracy from within.

実はこれは

This is actually a method

シリコンバレーが商品を売るために 開発した手法です

that Silicon Valley pioneered in order to sell us products.

しかし今は全く同じ手法で 民主主義の敵が

But now, the enemies of democracy are using this very method

恐怖や憎しみや虚栄心を 売るのに使っています

to sell us fear and hate and vanity.

こうした感情をゼロから 生み出すことはできません

They cannot create these feelings out of nothing.

私たちに内在している 弱さを見つけ出し

So they get to know our own preexisting weaknesses.

それを攻撃に使うのです

And then use them against us.

だからこそ私たち全員の責任において

And it is therefore the responsibility of all of us

自分の弱さを認識し

to get to know our weaknesses

それが民主主義の敵の手に渡って

and make sure that they do not become a weapon

武器にされないように しなければなりません

in the hands of the enemies of democracy.

自分自身の弱さを知ることで

Getting to know our own weaknesses

ファシストの鏡という罠に かからずに済みます

will also help us to avoid the trap of the fascist mirror.

既に説明した通り ファシズムは 私たちの虚栄心を利用します

As we explained earlier, fascism exploits our vanity.

私たちを実際よりも ずっと美しく見せるのです

It makes us see ourselves as far more beautiful than we really are.

それがファシズムの誘惑です

This is the seduction.

しかし自分のことをよく理解すれば

But if you really know yourself,

こういったまやかしに 乗せられることもありません

you will not fall for this kind of flattery.

誰かがあなたの前に鏡を置いたとして

If somebody puts a mirror in front of your eyes

それがあなたの欠点を全て覆い隠し

that hides all your ugly bits and makes you see yourself

自分を実際よりもずっと美しく

as far more beautiful and far more important

ずっと重要に見せる鏡だとしたら

than you really are,

壊すしかありません

just break that mirror.

ありがとうございました

Thank you.

（拍手）

(Applause)

（クリス・アンダーソン） ありがとうございました

Chris Anderson: Yuval, thank you.

なんと またお会いできて 嬉しいですね

Goodness me.

もし私の理解が正しければ

It's so nice to see you again.

あなたは２つの危険性について 警鐘を鳴らしましたね

So, if I understand you right,

１つは魅惑的に姿に変えた ファシズムが復活すること

you're alerting us to two big dangers here.

それからファシズムに似ているけど 厳密には異なる独裁主義が

One is the possible resurgence of a seductive form of fascism,

全てのデータを支配すること

but close to that, dictatorships that may not exactly be fascistic,

３つ目の危険もあるのではと 危惧しています

but control all the data.

それは他のスピーカーが 話されたように

I wonder if there's a third concern

政府ではなく 大企業が私たちのデータを 全て支配するというものです

that some people here have already expressed,

これを何と呼び

which is where, not governments, but big corporations control all our data.

また その危険性を どの程度憂慮すべきでしょうか？

What do you call that,

（ユヴァル・ノア・ハラリ） 結局のところ 企業であれ政府であれ

and how worried should we be about that?

あまり大きな差はありません

Yuval Noah Harari: Well, in the end, there isn't such a big difference