and I brought some of the very, very first public demonstrations

1980年代に私は初めて TEDで講演しましたが

of virtual reality ever to the TED stage.

世界で最初のVR（仮想現実）のデモを

And at that time, we knew that we were facing a knife-edge future

TEDの舞台でいくつか披露しました

where the technology we needed,

当時 私たちは 未来は危うい状況にあり

the technology we loved,

私たちが必要とし

could also be our undoing.

愛したテクノロジーが

We knew that if we thought of our technology

私たちを破滅に導くかもしれないと 気づいていました

as a means to ever more power,

私たちは もしテクノロジーを

if it was just a power trip, we'd eventually destroy ourselves.

権力を手にする道具だと考え 権力を握ること自体が目的化したら

That's what happens

人類は自滅するだろうと わかっていました

when you're on a power trip and nothing else.

権力だけを追求すると

So the idealism

そうなるものです

of digital culture back then

当時のデジタル・カルチャーの 理想は

was all about starting with that recognition of the possible darkness

何よりもまず この闇へ陥る可能性を認識した上で

and trying to imagine a way to transcend it

それを美や創造性で乗り越える方法を

with beauty and creativity.

模索することだったのです

I always used to end my early TED Talks with a rather horrifying line, which is,

私はいつも自分のTEDトークを やや恐怖感を煽る文句で締めくくりました

"We have a challenge.

「私たちには課題があります

We have to create a culture around technology

テクノロジーの周辺に

that is so beautiful, so meaningful,

美しく 意義深く

so deep, so endlessly creative,

深淵で 終わりなき創造性と

so filled with infinite potential

無限の可能性に溢れた カルチャーを生み出し

that it draws us away from committing mass suicide."

我々を自滅の道から救わなければ」

So we talked about extinction as being one and the same

つまり 我々の絶滅と 魅惑的で無限の創造性に満ちた—

as the need to create an alluring, infinitely creative future.

未来を創る必要性を 表裏一体のものとして語ったんです

And I still believe that that alternative of creativity

今でも 人類の滅亡にとって代わるものが

as an alternative to death

創造性であるという考えは

is very real and true,

とても現実的であり 正しい考えだと思っています

maybe the most true thing there is.

これはおそらく最も確かな真実でしょう

In the case of virtual reality --

VRに関しては

well, the way I used to talk about it

私はこんな風に言っていたものです

is that it would be something like

「人類が言葉を発見したときのようなことが 起こるだろう」

what happened when people discovered language.

言葉のお陰で 新しい冒険や 新たな深み、新しい意味

With language came new adventures, new depth, new meaning,

新しい交流の方法 新しい協力の方法

new ways to connect, new ways to coordinate,

想像の方法や 子供を育てる方法が生まれましたが

new ways to imagine, new ways to raise children,

VRによって 会話のようなものでありつつも

and I imagined, with virtual reality, we'd have this new thing

覚醒しながら意識的に夢を見るような 新たなものが生まれると想像していました

that would be like a conversation

それをこう呼びました 「ポスト記号的コミュニケーション」

but also like waking-state intentional dreaming.

記号を使って何かを間接的に 言い表す代わりに

We called it post-symbolic communication,

VRは 体験を直接表現する ようなものだからです

because it would be like just directly making the thing you experienced

それは美しいビジョンで 私は今もそれを信じています

instead of indirectly making symbols to refer to things.

ですが その美しいビジョンを 脅かしたのは

It was a beautiful vision, and it's one I still believe in,

そのビジョンが陥る可能性のある 暗黒面でした

and yet, haunting that beautiful vision

ある先駆的コンピューター・ サイエンティストについて

was the dark side of how it could also turn out.

お話ししてみようと思います

And I suppose I could mention

ノーバート・ウィナーという人で

from one of the very earliest computer scientists,

私が生まれる前の1950年代に

whose name was Norbert Wiener,

『人間機械論』という本を 著しました

and he wrote a book back in the '50s, from before I was even born,

その中で彼は

called "The Human Use of Human Beings."

人々からデータを収集し 即時にフィードバックをする

And in the book, he described the potential

コンピューター・システムを作る 可能性を述べていました

to create a computer system that would be gathering data from people

これは行動主義者が考え出した装置 スキナー箱に人々を入れるようなものですが

and providing feedback to those people in real time

データは統計学的に分析されます

in order to put them kind of partially, statistically, in a Skinner box,

彼が言った卓越した一節に こういうものがあります

in a behaviorist system,

「思考実験として こう想像できる—」

and he has this amazing line where he says,

これは引用ではなく 私が言い換えていますが

one could imagine, as a thought experiment --

「世界規模の コンピューター・システムを想像できる

and I'm paraphrasing, this isn't a quote --

そこでは誰もが常時デバイスを身につけ

one could imagine a global computer system

デバイスが彼らの行動に基づき フィードバックを与える

where everybody has devices on them all the time,

そして全人類が

and the devices are giving them feedback based on what they did,

ある程度の行動変容をさせられるようになる

and the whole population

そして そのような社会は狂っていて

is subject to a degree of behavior modification.

存続も 社会問題の解決も ままならないだろう」

And such a society would be insane,

そしてこう続きます 「しかしこれは思考実験に過ぎず

could not survive, could not face its problems.

そんな未来は技術的に実現不可能である」

And then he says, but this is only a thought experiment,

（笑）

and such a future is technologically infeasible.

でも もちろん そんな技術を 作り出してしまったのですから

(Laughter)

人類の存続のために 取り消さなければならないのです

And yet, of course, it's what we have created,

つまり

and it's what we must undo if we are to survive.

（拍手）

So --

人類は 非常に特殊な間違いを

(Applause)

初期の頃に犯してしまったのだと 思います

I believe that we made a very particular mistake,

そして犯してしまった間違いを 理解することで

and it happened early on,

それを正すことができます

and by understanding the mistake we made,

その間違いは1990年代に起こり

we can undo it.

まさに世紀末に差し掛かる頃でした

It happened in the '90s,

こういうことです

and going into the turn of the century,

黎明期のデジタル・カルチャーには

and here's what happened.

― 実のところ 現在もそうですが ―

Early digital culture,

左派的、社会主義的使命感が あったと思います

and indeed, digital culture to this day,

それは本の発明などの

had a sense of, I would say, lefty, socialist mission about it,

他の発明には無かったもので

that unlike other things that have been done,

インターネット上の全てのものは 大衆に自由に公開され

like the invention of books,

無料で提供されるべきだというものです

everything on the internet must be purely public,

なぜなら 経済的な原因で アクセスできない人が一人でもいれば

must be available for free,

それが甚だしい不平等を 生み出すからです

because if even one person cannot afford it,

さてもちろん それを解消するには他にも方法があります

then that would create this terrible inequity.

本が高価なら 図書館に行けば良い

Now of course, there's other ways to deal with that.

などなどです

If books cost money, you can have public libraries.

でも私たちは 「いやいや これは特別なもので

And so forth.

純粋に共有空間にすべきなんだ」と 考えていました

But we were thinking, no, no, no, this is an exception.

その精神は今も生きていて

This must be pure public commons, that's what we want.

ウィキペディアや多くのものの仕組みに

And so that spirit lives on.

それを見ることができます

You can experience it in designs like the Wikipedia, for instance,

ですが同時に

many others.

私たちは同じ程度の情熱で

But at the same time,

これとは完全に相入れないものを もう一つ信じていました

we also believed, with equal fervor,

テクノロジー起業家達です

in this other thing that was completely incompatible,

私たちはスティーブ・ジョブズを崇め

which is we loved our tech entrepreneurs.

技術オタクが世界に風穴を開けるという ニーチェ的神話を愛しました

We loved Steve Jobs; we loved this Nietzschean myth

そうでしたね？

of the techie who could dent the universe.

その神秘的な力は 未だに影響を及ぼし続けています

Right?

そう これらの２つの異なるものへの 情熱があるのです

And that mythical power still has a hold on us, as well.

「あらゆるものを無料に」

So you have these two different passions,

「まるで超自然的な力を持つテック起業家」

for making everything free

全てが無料だとしたら 起業家精神は どのような報酬で報いられるのでしょう？

and for the almost supernatural power of the tech entrepreneur.

その当時は広告モデルしか その方法が無かったんです

How do you celebrate entrepreneurship when everything's free?

それでGoogleが無料サービスとして 広告モデルを携えて誕生しました

Well, there was only one solution back then,

Facebookも然り

which was the advertising model.

初めは— それはごく初期のGoogleのように

And so therefore, Google was born free, with ads,

カワイイものでした

Facebook was born free, with ads.

（笑）

Now in the beginning, it was cute,

それはごく当たり前の広告で

like with the very earliest Google.

地域の歯医者さんの宣伝なんかでした

(Laughter)

しかし「ムーアの法則」 というものに従い

The ads really were kind of ads.

コンピューターの性能がどんどん上がり 価格は下がっていきます

They would be, like, your local dentist or something.

アルゴリズムも向上していきます

But there's thing called Moore's law

大学の研究者によって

that makes the computers more and more efficient and cheaper.

アルゴリズムはどんどん進化します

Their algorithms get better.

システムを使う顧客や企業などは

We actually have universities where people study them,

経験値を高め 知恵をつけていきました

and they get better and better.

そうして単なるネットの広告だったものは

And the customers and other entities who use these systems

もはやそう呼べないものに進化し

just got more and more experienced and got cleverer and cleverer.

行動変容装置へと進化しました

And what started out as advertising

ノーバート・ウィーナーが 憂慮したとおりのことが起きたのです

really can't be called advertising anymore.

もはや これは 「ソーシャル・ネットワーク」と呼べず

It turned into behavior modification,

私は「行動変容帝国」と呼んでいます

just as Norbert Wiener had worried it might.

（拍手）

And so I can't call these things social networks anymore.

特定の個人を非難する気はありません

I call them behavior modification empires.

テック企業には大事な友人がいるんです

(Applause)

Googleに会社を売却したりして— それも帝国の一つですが

And I refuse to vilify the individuals.

これは「悪人たちが悪事を働いた」 といったようなことではなく

I have dear friends at these companies,

世界的規模で起きた 悲劇的で

sold a company to Google, even though I think it's one of these empires.

驚くほど馬鹿げた 間違いだと思っています

I don't think this is a matter of bad people who've done a bad thing.

悪の波が押し寄せた なんてものではありません

I think this is a matter of a globally tragic,

この特殊な間違いの仕組みを

astoundingly ridiculous mistake,

もう一段 詳しく説明しましょう

rather than a wave of evil.

行動主義の考えに従い

Let me give you just another layer of detail

ネズミであれ 犬であれ 人であれ 生き物に対し

into how this particular mistake functions.

ちょっとしたご褒美や 時には罰を

So with behaviorism,

行動へのフィードバックとして与えます

you give the creature, whether it's a rat or a dog or a person,

檻に入った動物だったら キャンディーや電気ショックを与えますが

little treats and sometimes little punishments

スマートフォンをもった人に対しては

as feedback to what they do.

そういうものの代わりに 罰や報酬を象徴で与えます

So if you have an animal in a cage, it might be candy and electric shocks.

初期の行動主義者だったパブロフは

But if you have a smartphone,

有名な原理を証明しました

it's not those things, it's symbolic punishment and reward.

ベルを鳴らすだけで犬に涎を 垂らさせたのです 象徴への反応です

Pavlov, one of the early behaviorists,

ソーシャル・ネットワークでは

demonstrated the famous principle.

社会的賞罰が 報酬や罰として機能します

You could train a dog to salivate just with the bell, just with the symbol.

皆さんがご存知の あの気持ちです

So on social networks,

皆さんはこんなスリルを感じます

social punishment and social reward function as the punishment and reward.

「誰かが私の投稿をいいねした いいねが伸びてる！」

And we all know the feeling of these things.

あるいは罰の方 「ああ 私は人気が無い

You get this little thrill --

もっと人気のある人がいるんだな」

"Somebody liked my stuff and it's being repeated."

皆に共通する このような２つの感情が

Or the punishment: "Oh my God, they don't like me,

少しずつ与えられ 皆さんはループに囚われてしまいます

maybe somebody else is more popular, oh my God."

これはシステムの創始者たちの多くが 公に認めていることです

So you have those two very common feelings,

誰もがこの事態を理解しています

and they're doled out in such a way that you get caught in this loop.

しかし

As has been publicly acknowledged by many of the founders of the system,

行動主義の学術研究においては 伝統的に

everybody knew this is what was going on.

ネガティブとポジティブ刺激を 比較してきました

But here's the thing:

ところが この商業的環境では

traditionally, in the academic study of the methods of behaviorism,

学問の世界では しばらく注目されてこなかった

there have been comparisons of positive and negative stimuli.

２種の刺激についての 新たな見方が生まれています

In this setting, a commercial setting,

学問的な見方と違う点は ポジティブな刺激が

there's a new kind of difference

状況によっては ネガティブな刺激よりも効果があるにせよ

that has kind of evaded the academic world for a while,

ネガティブな刺激は 安上がりだということです

and that difference is that whether positive stimuli

ネガティブな刺激は お手頃なんです

are more effective than negative ones in different circumstances,

つまり 信頼を築くよりも

the negative ones are cheaper.

信頼失う方が 簡単に起きるということです

They're the bargain stimuli.

愛を築くには長い時間がかかりますが

So what I mean by that is it's much easier

壊れるのはあっという間です

to lose trust than to build trust.

この行動変容帝国の顧客たちは

It takes a long time to build love.

超高速のループにいます

It takes a short time to ruin love.

まるで高頻度取引トレーダーのようです

Now the customers of these behavior modification empires

購入者からフィードバックを受けたり

are on a very fast loop.

購入でなければ ユーザーの行動から フィードバックを受けたりすることで

They're almost like high-frequency traders.

企業側は何が効果があるか理解し それを更に提供します

They're getting feedbacks from their spends

つまり フィードバックを 即座に受けることとは

or whatever their activities are if they're not spending,

より頻繁にネガティブな感情に 反応しています

and they see what's working, and then they do more of that.

何故ならそれらがより素早く 生じる感情だからです そうでしょう？

And so they're getting the quick feedback,

ですから 善意の企業が

which means they're responding more to the negative emotions,

自分たちは ただ歯磨き粉を 宣伝しているだけと思っていたとしても

because those are the ones that rise faster, right?

ネガティブな人々

And so therefore, even well-intentioned players

ネガティブな気持ちの人 気分屋

who think all they're doing is advertising toothpaste

偏執症患者

end up advancing the cause of the negative people,

皮肉屋やニヒリストの主張を 宣伝する羽目に陥ってしまいます

the negative emotions, the cranks,

そういう人々が このシステムによって増長するのです

the paranoids,

このような企業にお金を払って 急に世界を良い場所に変えたり

the cynics, the nihilists.

民主主義を改善したりするのは

Those are the ones who get amplified by the system.

お金を払って こうしたものを 壊すほどには簡単にできません

And you can't pay one of these companies to make the world suddenly nice

つまりこれが私たちが自らを追い込んだ ジレンマというわけです

and improve democracy

別の手段は 骨を折って時間を巻き戻し

nearly as easily as you can pay to ruin those things.

選択をやり直すことです

And so this is the dilemma we've gotten ourselves into.

それは２つの事を意味します

The alternative is to turn back the clock, with great difficulty,

まず経済的に余裕のある多くの人々が

and remake that decision.

こうしたサービスに代金を支払うことです

Remaking it would mean two things.

サーチ・エンジンやSNSの 利用料金を支払うんです

It would mean first that many people, those who could afford to,

支払いの方法は 購読料や

would actually pay for these things.

利用しただけ支払う マイクロ・ペイメントが考えられます

You'd pay for search, you'd pay for social networking.

他にも色々な選択肢が考えられます

How would you pay? Maybe with a subscription fee,

もし皆さんの中には ひるんでしまい

maybe with micro-payments as you use them.

「まさか こんなものに金を出すなんて考えられない

There's a lot of options.

支払う人なんているだろうか？」 と考える方がいたら

If some of you are recoiling, and you're thinking,

最近起こった事を思い出して欲しいのですが

"Oh my God, I would never pay for these things.

Google や Facebookといった会社が

How could you ever get anyone to pay?"

無料サービスに基づくビジネス構想を 練り上げていた同じ頃

I want to remind you of something that just happened.

サイバー・カルチャー界隈の人々の多くは

Around this same time

将来テレビや映画が ウィキペディアと同じような仕組みで

that companies like Google and Facebook were formulating their free idea,

作られるようになると信じていました

a lot of cyber culture also believed that in the future,

ところが Netflix、Amazon、HBOなどが

televisions and movies would be created in the same way,

「購読すれば 素晴らしい番組を 提供しますよ」と言ったんです

kind of like the Wikipedia.

そして成功しました！

But then, companies like Netflix, Amazon, HBO,

私たちは現在この「テレビの黄金時代」に 生きていますよね？

said, "Actually, you know, subscribe. We'll give you give you great TV."

だから 代金を払ったら 良いこともあるんですよ

And it worked!

仮に「ソーシャルメディア黄金時代」を

We now are in this period called "peak TV," right?

（拍手）

So sometimes when you pay for stuff, things get better.

仮に「ソーシャルメディア黄金時代」を 想像してみましょう

We can imagine a hypothetical --

それはどんなものになるでしょうか？

(Applause)

ログインすると ゴミのような情報ではなく

We can imagine a hypothetical world of "peak social media."

信頼できる情報源からの とても有益な医療アドバイスが得られ

What would that be like?

事実に基づいた情報を探す時

It would mean when you get on, you can get really useful,

そこには奇妙で偏執的な 陰謀論は存在しません

authoritative medical advice instead of cranks.

この素晴らしいもう一つの世界も 想像することができます

It could mean when you want to get factual information,

ああ！

there's not a bunch of weird, paranoid conspiracy theories.

私はそれを夢見て それが実現可能だと信じています

We can imagine this wonderful other possibility.

実現できると確信しています

Ah.

そして GoogleやFacebookなどの企業は

I dream of it. I believe it's possible.

そのような世界で もっと成功するだろうと信じています

I'm certain it's possible.

私はシリコン・バレーが 罰を受けるべきだとは思いません

And I'm certain that the companies, the Googles and the Facebooks,

私たちは単に選択し直せばいいんです

would actually do better in this world.

大テクノロジー企業の中で

I don't believe we need to punish Silicon Valley.

ビジネスプランが 行動変容とスパイ行為に依存しているのは

We just need to remake the decision.

実は２社しかありません

Of the big tech companies,

Google と Facebookです