artificial intelligence, AI.

いつかロボット達は人間のような 知性を持つようになるかも知れません

How could that happen?

人工知能、AIです

One route is that we'll just keep accumulating better software,

どうやって？

like we've been doing for 70 years.

ひとつには 過去70年やってきたように より優れたソフトウェアを

At past rates of progress, that may take centuries.

蓄積したりすることでしょう

Some say it'll happen a lot faster

今までの進化の速度だと それまでに数世紀かかるでしょう

as we discover grand new powerful theories of intelligence.

私たちが新しい強力な 知性の論理を見つけたら

I'm skeptical.

もっと早く実現するだろう という人もいます

But a third scenario

私は信じていませんが

is what I'm going to talk about today.

しかし３つめのシナリオを

The idea is to port the software from the human brain.

今日はお話しします

To do this, we're going to need three technologies to be good enough,

人間の脳からソフトウェアを 移植するというアイデアですが

and none of them are there yet.

そのためには３つの技術の成熟が必要ですが

First, we're going to need lots of cheap, fast, parallel computers.

そのうちのどれも実現していません

Second, we're going to need to scan individual human brains

まず 多くの安価で高速な 並列計算機（コンピューター）が必要です

in fine spatial and chemical detail,

２つ目には個人の脳を 空間的、化学的組成の詳細まで

to see exactly what cells are where, connected to what, of what type.

スキャンする必要があります

And third, we're going to need computer models

どの細胞がどこにあり どんな種類の 何と繋がっているかまでを理解する為です

of how each kind of brain cell works --

３つ目はそれぞれの脳細胞が どのように働くのかを

taking input signals, changing interval state

コンピューターモデルで表すことです

and sending output signals.

入力シグナルを受け取って インターバル状態を変えて

If we have good enough models of all the kinds of brain cells

出力シグナルを送ります

and a good enough model of the brain,

もしあらゆる脳細胞と脳の

we can put it together to make a good enough model of an entire brain,

十分に良いモデルがあれば

and that model would have the same input-output behavior as the original.

それらを統合して 脳全体の十分に良いモデルができ

So if you talk to it, it might talk back.

そのモデルが オリジナルの脳と同じ 入出力活動をするでしょう

If you ask it to do things, it might do them.

それに話しかけると 答えを返してくれるかもしれません

And if we could do that, everything would change.

何かを指示すると それを遂行するかも

People have been talking about this idea for decades,

もしそうなれば すべてが変わります

under the name of "uploads."

人々はこのアイデアを 「アップロード」と呼び

I'm going to call them "ems."

何十年も議論して来ました

When they talk about it, they say,

それを「em」と呼びましょう [emは人の脳を模倣するモデル]

"Is this even possible?

人々はこう言います [emは人の脳を模倣するモデル]

If you made one, would it be conscious? Or is it just an empty machine?

「そんなこと 本当に可能なのか？

If you made one of me, is that me or someone else?"

もし実現したら それに意識はある？ それともそれは空っぽのマシン？

These are all fascinating questions that I'm going to ignore ...

自分がemになったら それは別人の人格になる？」

(Laughter)

こうした興味をそそる質問は 全部無視して話しますが—

because I see a neglected question:

（笑）

What would actually happen?

こう問うのを忘れています

I became obsessed with this question.

「具体的に何が起こるんだろう？」

I spent four years trying to analyze it,

私はこの問いに夢中になりました

using standard academic tools, to guess what would happen,

４年このことを考えて来て

and I'm here to tell you what I found.

標準的な学術的ツールを用いて 何が起こるかの予測を試み

But be warned --

そうして見出した結果をお話しします

I'm not offering inspiration, I'm offering analysis.

言っておきますが—

I see my job as telling you what's most likely to happen

私はインスピレーションではなく 分析を共有します

if we did the least to avoid it.

私の仕事は それを避けようとしないと 何が一番起こりそうか

If you aren't at least a bit disturbed by something I tell you here,

皆さんに伝えることだと思っています

you're just not paying attention.

もしあなたが私の話に驚かなかったら

(Laughter)

注意を払っていないということです

OK, the first thing I can tell you

（笑）

is that ems spend most of their life in virtual reality.

ではまず

This is what you might look like if you were using virtual reality.

emは一生のほとんどを 仮想現実（VR）世界で過ごします

And this is what you might see:

みなさんが仮想現実を使っている姿は このようなものでしょう

sunlight glinting off of water, you might hear gulls flying above,

そしてこんなものが見えます

you might even feel the wind on your cheeks or smell seawater,

太陽光が水面に反射し 空にカモメの鳴き声

with advanced hardware.

風を頰に感じ 潮の香りすらするかもしれません

Now, if you were to spend a lot of time here,

最新式のハードウエアです

you might want a dashboard

ここで多くの時間を過ごすならば

where you could do things like make a phone call,

ダッシュボードが必要です

move to a new virtual world,

電話をかけたり

check your bank account.

次の仮想世界に移動したり

Now, while this is what you would look like in virtual reality,

銀行口座を確認したりします

this is what an em would look like in virtual reality.

みなさんは仮想現実世界ではこんな姿でしょう

It's computer hardware sitting in a server rack somewhere.

これは emの仮想現実世界での姿です

But still, it could see and experience the same thing.

どこかのサーバーラックにある コンピューターです

But some things are different for ems.

でもみなさんと 同じものを見て体験できます

First, while you'll probably always notice that virtual reality isn't entirely real,

ただ emにとっては違う点も いくつかあります

to an em, it can feel as real to them as this room feels to you now

まず みなさんは仮想現実が完全には 現実とは同じでは無いと分かっているでしょうが

or as anything ever feels.

みなさんがこの部屋などに感じる現実感を

And ems also have some more action possibilities.

em は感じているでしょう

For example, your mind just always runs at the same speed,

更にemの活動にはもっと可能性があります

but an em can add more or less computer hardware to run faster or slower,

例えば皆さんの思考は いつも同じ速さで走りますが

and therefore, if the world around them seems to be going too fast,

emはコンピューターハードウェアを 増減させて速くあるいは遅くでき

they can just speed up their mind,

それで周囲が自分より速すぎると感じたら

and the world around them would seem to slow down.

スピードアップすれば

In addition, an em can make a copy of itself at that moment.

周囲の速度も落ちてくるように思うでしょう

This copy would remember everything the same,

加えてemはその時点での 自分を複製できるので

and if it starts out with the same speed, looking at the same speed,

このコピーは全てを同じく覚えているでしょう

it might even need to be told, "You are the copy."

emが同じ処理速度で始動すると その処理速度から区別はつかず

And em could make archive copies,

「お前はコピーだ」と 言われないと自覚しないかも知れません

and with enough archives,

emはアーカイブコピーを作ることもでき

an em can be immortal --

それが十分な数になると

in principle, though not usually in practice.

emは不滅になります

And an em can move its brain, the computer that represents its brain,

理論上です 実際にそうなることはないでしょう

from one physical location to another.

emはその脳を — 脳として機能するコンピューターを

Ems can actually move around the world at the speed of light,

物理的に動かせます

and by moving to a new location,

emは光の速度で世界を動き回れます

they can interact more quickly with ems near that new location.

そして新たな場所に移動し

So far, I've been talking about what ems can do.

その地点付近のemとより速く会話できます

What do ems choose to do?

これまでemが出来ることについて 話してきました

To understand that, we'll need to understand three key facts.

ではemは何をすることを選ぶでしょう？

First, ems by definition do what the human they emulate would do

それを理解するために ３つの主な事実を理解する必要があります

in the same situation.

同じ状況では emは手本である人間と同じ行動を

So their lives and behavior are very human.

選ぶものです

They're mainly different because they're living in a different world.

ですから彼らの生活や行動は とても人間らしく

Second, ems need real resources to survive.

彼らが人間と違うのは 人間とは違う世界に生きているためです

You need food and shelter or you'll die.

２点目 emは生存に 物理的な資源を必要とします

Also, ems need computer hardware, energy, cooling, or they can't exist.

皆さんも生きるのには家屋や食糧が必要ですね

For every subjective minute that an em experiences,

emが生きるためにはハードウェアと エネルギー、冷却装置などが必要です

someone, usually that em, had to work to pay for it.

emの主観における１分ごとに

Third, ems are poor.

通常そのem自身が その分を稼がなければなりません

(Laughter)

３点目 emにはお金がありません

The em population can grow quicker than the em economy,

（笑）

so that means wages fall down to em subsistence levels.

emの数はem経済の成長よりも速く増え

That means ems have to be working most of the time.

これはemの最低生活可能レベルまで 賃金が下がることを意味し

So that means this is what ems usually see:

emはほぼ常に 働かなければならないことを意味します

beautiful and luxurious, but desks --

つまりemが通常見る風景は このようなものです

they're working most of the time.

美しく豪華ですが 机しか無く—

Now, a subsistence wage scenario, you might think, is exotic and strange,

彼らはほとんどの時間 働いています

but it's actually the usual case in human history,

最低生活賃金シナリオは 珍しく奇妙なものに思えるかも知れませんが

and it's how pretty much all wild animals have ever lived,

これは実は人類史に於いて普通のことで

so we know what humans do in this situation.

あらゆる野生生物も このシナリオで生きて来ました

Humans basically do what it takes to survive,

だから人間がこの状況下で どう行動するか分かります

and this is what lets me say so much about the em world.

人間は生き延びる為に生活します

When creatures are rich, like you,

それがemの世界についても言えます

you have to know a lot about what they want

みなさんのように豊かであれば

to figure out what they do.

それらの行動を予測するのに

When creatures are poor,

それらの欲求を熟知する必要があります

you know that they mostly do what it takes to survive.

生命体が貧しい存在であれば

So we've been talking about the em world from the point of view of the ems --

大抵それらは 生き延びる為だけに行動しています

now, let's step back and look at their whole world.

emの世界について emの視点から語ってきましたが

First, the em world grows much faster than ours,

次は視点を変えて 彼らの世界全体を見てみましょう

roughly a hundred times faster.

まず emの世界は 我々の世界よりも速く成長します

So the amount of change we would experience in a century or two,

およそ100倍の速さで

they would experience in a year or two.

我々が１〜２世紀の間に経験する変化を

And I'm not really willing to project this age much beyond that,

彼らは１〜２年で経験します

because plausibly by then something else will happen, I don't know what.

その後を予測することは止めておきます

Second, the typical emulation runs even faster,

きっと何かが起こり変化していくでしょうから 私には分かりません

roughly a thousand times human speed.

次に典型的なエミュレーションは

So for them, they experience thousands of years in this year or two,

人間の速度のおよそ１千倍速く走るため

and for them, the world around them is actually changing more slowly

数千年を１〜２年で経験し

than your world seems to change for you.

彼らにとって世界は 皆さんが感じるよりも

Third, ems are crammed together in a small number of very dense cities.

もっとゆっくりと過ぎて行きます

This is not only how they see themselves in virtual reality,

３つ目にemは少数の とても混み合った都市に詰め込まれています

it's also how they actually are physically crammed together.

これは彼らが仮想現実世界でも

So at em speeds, physical travel feels really painfully slow,

実際でも 物理的に押し込められている姿です

so most em cities are self-sufficient,

emの感覚では物理的な移動は 痛々しい程に遅く感じられるので

most war is cyber war,

ほとんどのemの都市は自給自足しています

and most of the rest of the earth away from the em cities

ほとんどの戦争はサイバー戦争になり

is left to the humans, because the ems really aren't that interested in it.

emの都市から離れた場所が

Speaking of humans,

人間達の居住地として残されるでしょう emはそこに大して興味を持ちません

you were wanting to hear about that.

人間といえば

Humans must retire, at once, for good.

みなさんが聞きたがっていますが

They just can't compete.

人間は即刻永遠に 引退しなければならないでしょう

Now, humans start out owning all of the capital in this world.

emと競合することはできません

The economy grows very fast, their wealth grows very fast.

人間は この世界の 資本のすべてを手にしていましたが

Humans get rich, collectively.

経済が非常に速く成長し 彼らの富は非常に速く成長し

As you may know, most humans today don't actually own that much

人間は 集団として 豊かになります

besides their ability to work,

ご存知かも知れませんが 殆どの人は 実際には仕事をする能力のほかに

so between now and then, they need to acquire sufficient assets,

あまり何も持っていません

insurance or sharing arrangements,

今からその時までに 彼らは十分な資産を取得し保険や資産共有の

or they may starve.

取り決めをしなければならず

I highly recommend avoiding this outcome.

さもなくば彼らは餓死します

(Laughter)

そんな結末を避けることを強くお勧めします

Now, you might wonder,

（笑）

why would ems let humans exist?

不思議に思うかも知れません

Why not kill them, take their stuff?

emはなぜ人間を生かしておくの？

But notice we have many unproductive retirees around us today,

人間を殺して財産を奪うこともできるのに？

and we don't kill them and take their stuff.

でも人間も非生産的な退職者達を

(Laughter)

殺して財産を奪ったりしないでしょう

In part, that's because it would disrupt the institutions we share with them.

（笑）

Other groups would wonder who's next,

ひとつにはそんなことをすれば emと私たちが共有する社会が崩壊するからです

so plausibly, ems may well let humans retire in peace during the age of em.

他のグループは次は誰の番だと 訝しがるでしょうし

You should worry more that the age of em only lasts a year or two

emの時代に 人間は穏やかに退職させられるかも知れません

and you don't know what happens next.

それよりemの時代が１〜２年しか 続かない事の方を心配するべきでしょう

Ems are very much like humans,

その次に何が起こるかは分かりません

but they are not like the typical human.

emは人間によく似ていますが

The typical em is a copy of the few hundred most productive humans.

典型的な人間とは違い

So in fact, they are as elite, compared to the typical human,

典型的な１つのemは 数百人の最も生産的な人間のようなものです

as the typical billionaire, Nobel Prize winner,

ですからemは普通の人間からすると—

Olympic gold medalist, head of state.

億万長者やノーベル賞受賞者

Ems look on humans perhaps with nostalgia and gratitude,

ゴールドメダリストや 国家元首並みに優れています

but not so much respect,

emはおそらく人間に対して 郷愁と感謝を感じるでしょうが

which is, if you think about it, how you think about your ancestors.

尊敬の念はそれほど感じないでしょう

We know many things about how humans differ in terms of productivity.

考えてみると 私たちが先祖を思うようなものです

We can just use those to predict features of ems --

皆知っている通り人間の生産性は様々です

for example, they tend to be smart, conscientious, hard-working,

これに基づいてemの機能を予測できます

married, religious, middle-aged.

例えば彼らは賢く、良心的で 勤勉で、結婚していて、信仰があり

These are features of ems.

中年だという傾向があります

Em world also contains enormous variety.

これらはemの特徴です

Not only does it continue on with most of the kinds of variety that humans do,

emの世界は莫大な多様性を内包しています

including variety of industry and profession,

emは人間達のように多様性と直面します

they also have many new kinds of variety,

様々な産業や職業に加え

and one of the most important is mind speed.

新たな種類の多様性も持ちます

Ems can plausibly go from human speed

その最も重要なものの一つは マインド・スピードです

up to a million times faster than human speed,

emは人間の速度から

and down to a billion times slower than human speed.

百万倍速くも

Faster ems tend to have markers of high status.

10億分の１に遅くもなれます

They embody more wealth. They win arguments.

より速いemはより高い地位に就き

They sit at premium locations.

富を持ち 議論に勝ち

Slower ems are mostly retirees,

絶好の場所に鎮座します

and they are like the ghosts of our literature.

より遅いemの多くは退職者達で

If you recall, ghosts are all around us --

文学に登場する幽霊のような存在です

you can interact with them if you pay the price.

思い出してください 霊はそこら中にいて

But they don't know much, they can't influence much,

お金を出せば降霊だってできます

and they're obsessed with the past, so what's the point?

でも彼らはあまり物事を知らず 影響力も無く

(Laughter)

過去に囚われ— 取るに足りません

Ems also have more variety in the structure of their lives.

（笑）

This is your life: you start and you end, really simple.

emの生涯には多様な形態があります

This is the life of an em,

これはあなたの一生です 初めと終わりがある—単純です

who every day splits off some short-term copies

emの一生は

to do short-term tasks and then end.

毎日短命なコピーを作り出し

We'll talk more about those short term versions in a moment,

それらは短期的なタスクをして命を終えます

but they are much more efficient

この短命なemについて後ほど触れますが

because they don't have to rest for the next day.

彼らははるかに効率的です

This em is more opportunistic.

次の日の為に休息する必要が無いので

They make more copies of themselves when there's more demand for that.

このemは隙あらば増殖し

They don't know which way the future's going.

需要次第で自身のコピーをたくさん作ります

This is an em designer,

彼らは未来がどうなるか知りもしません

who conceives of a large system

これはemデザイナーで

and then breaks recursively into copies who elaborate that,

大きなシステムを構想し

so ems can implement larger, more coherent designs.

繰り返しコピーに分かれて行き

This an emulation plumber

emはより大規模で一貫性のある デザインを実現します

who remembers that every day, for the last 20 years,

これは配管工タイプです

they only ever worked two hours a day, a life of leisure.

過去20年間毎日２時間しか働かなかった

But what really happened is, every day they had a thousand copies,

悠々生活の記憶を持っています

each of whom did a two-hour plumbing job,

毎日１千のコピーを作り

and only one of them went on to the next day.

それぞれが２時間配管の仕事をして

Objectively, they're working well over 99 percent of the time.

１つだけが次の日まで生きます

Subjectively, they remember a life of leisure.

客観的に見ると 彼らは99%以上の時間働いていますが

(Laughter)

主観的には悠々生活を覚えています

This, again, is you. You start and you end.

（笑）

This could be you if at the start of party,

またあなたの一生です 初めと終わりがあるります

you took a drug that meant you would not remember that party

これはパーティーの始まりのあなたで [忘却は『死』？]

ever after that day.

パーティーが終われば すっかりその記憶を失うクスリを

Some people do this, I'm told.

飲みました

Toward the end of the party,

そんなことをする人々がいるんだそうです

will you say to yourself, "I'm about to die, this is terrible.

パーティーの終わりに

That person tomorrow isn't me, because they won't remember what I do."

あなたは呟きます 「もう死ぬんだ こんなの酷い

Or you could say, "I will go on tomorrow. I just won't remember what I did."

明日はもう自分ではなくなる 誰も自分の事を覚えていないから」

This is an em who splits off a short-term copy

それか こう言うでしょう「今日のことは 覚えていなくても明日もちゃんと生きるさ」

to do a short-term task and then end.

このemは短命のコピーを生み出し

They have the same two attitude possibilities.

それは短期タスクを遂行し死にます

They can say, "I'm a new short-term creature with a short life. I hate this."

彼らには２種類の態度を取る可能性があります

Or "I'm a part of a larger creature who won't remember this part."

「自分は短命な生命だ 最悪」 あるいは

I predict they'll have that second attitude,

「自分より大きな生命体の一部で それは記憶されないんだ」

not because it's philosophically correct, but because it helps them get along.

彼らはおそらく後者でしょう

Today, if the president says we must invade Iraq,

それが哲学的に正しいからでは無く 彼らが共存する為に有効だからです