Placeholder Image

字幕表 動画を再生する

  • Someday, we may have robots as smart as people,

    翻訳: Eriko T 校正: Masaki Yanagishita

  • artificial intelligence, AI.

    いつかロボット達は人間のような 知性を持つようになるかも知れません

  • How could that happen?

    人工知能、AIです

  • One route is that we'll just keep accumulating better software,

    どうやって?

  • like we've been doing for 70 years.

    ひとつには 過去70年やってきたように より優れたソフトウェアを

  • At past rates of progress, that may take centuries.

    蓄積したりすることでしょう

  • Some say it'll happen a lot faster

    今までの進化の速度だと それまでに数世紀かかるでしょう

  • as we discover grand new powerful theories of intelligence.

    私たちが新しい強力な 知性の論理を見つけたら

  • I'm skeptical.

    もっと早く実現するだろう という人もいます

  • But a third scenario

    私は信じていませんが

  • is what I'm going to talk about today.

    しかし3つめのシナリオを

  • The idea is to port the software from the human brain.

    今日はお話しします

  • To do this, we're going to need three technologies to be good enough,

    人間の脳からソフトウェアを 移植するというアイデアですが

  • and none of them are there yet.

    そのためには3つの技術の成熟が必要ですが

  • First, we're going to need lots of cheap, fast, parallel computers.

    そのうちのどれも実現していません

  • Second, we're going to need to scan individual human brains

    まず 多くの安価で高速な 並列計算機(コンピューター)が必要です

  • in fine spatial and chemical detail,

    2つ目には個人の脳を 空間的、化学的組成の詳細まで

  • to see exactly what cells are where, connected to what, of what type.

    スキャンする必要があります

  • And third, we're going to need computer models

    どの細胞がどこにあり どんな種類の 何と繋がっているかまでを理解する為です

  • of how each kind of brain cell works --

    3つ目はそれぞれの脳細胞が どのように働くのかを

  • taking input signals, changing interval state

    コンピューターモデルで表すことです

  • and sending output signals.

    入力シグナルを受け取って インターバル状態を変えて

  • If we have good enough models of all the kinds of brain cells

    出力シグナルを送ります

  • and a good enough model of the brain,

    もしあらゆる脳細胞と脳の

  • we can put it together to make a good enough model of an entire brain,

    十分に良いモデルがあれば

  • and that model would have the same input-output behavior as the original.

    それらを統合して 脳全体の十分に良いモデルができ

  • So if you talk to it, it might talk back.

    そのモデルが オリジナルの脳と同じ 入出力活動をするでしょう

  • If you ask it to do things, it might do them.

    それに話しかけると 答えを返してくれるかもしれません

  • And if we could do that, everything would change.

    何かを指示すると それを遂行するかも

  • People have been talking about this idea for decades,

    もしそうなれば すべてが変わります

  • under the name of "uploads."

    人々はこのアイデアを 「アップロード」と呼び

  • I'm going to call them "ems."

    何十年も議論して来ました

  • When they talk about it, they say,

    それを「em」と呼びましょう [emは人の脳を模倣するモデル]

  • "Is this even possible?

    人々はこう言います [emは人の脳を模倣するモデル]

  • If you made one, would it be conscious? Or is it just an empty machine?

    「そんなこと 本当に可能なのか?

  • If you made one of me, is that me or someone else?"

    もし実現したら それに意識はある? それともそれは空っぽのマシン?

  • These are all fascinating questions that I'm going to ignore ...

    自分がemになったら それは別人の人格になる?」

  • (Laughter)

    こうした興味をそそる質問は 全部無視して話しますが—

  • because I see a neglected question:

    (笑)

  • What would actually happen?

    こう問うのを忘れています

  • I became obsessed with this question.

    「具体的に何が起こるんだろう?」

  • I spent four years trying to analyze it,

    私はこの問いに夢中になりました

  • using standard academic tools, to guess what would happen,

    4年このことを考えて来て

  • and I'm here to tell you what I found.

    標準的な学術的ツールを用いて 何が起こるかの予測を試み

  • But be warned --

    そうして見出した結果をお話しします

  • I'm not offering inspiration, I'm offering analysis.

    言っておきますが—

  • I see my job as telling you what's most likely to happen

    私はインスピレーションではなく 分析を共有します

  • if we did the least to avoid it.

    私の仕事は それを避けようとしないと 何が一番起こりそうか

  • If you aren't at least a bit disturbed by something I tell you here,

    皆さんに伝えることだと思っています

  • you're just not paying attention.

    もしあなたが私の話に驚かなかったら

  • (Laughter)

    注意を払っていないということです

  • OK, the first thing I can tell you

    (笑)

  • is that ems spend most of their life in virtual reality.

    ではまず

  • This is what you might look like if you were using virtual reality.

    emは一生のほとんどを 仮想現実(VR)世界で過ごします

  • And this is what you might see:

    みなさんが仮想現実を使っている姿は このようなものでしょう

  • sunlight glinting off of water, you might hear gulls flying above,

    そしてこんなものが見えます

  • you might even feel the wind on your cheeks or smell seawater,

    太陽光が水面に反射し 空にカモメの鳴き声

  • with advanced hardware.

    風を頰に感じ 潮の香りすらするかもしれません

  • Now, if you were to spend a lot of time here,

    最新式のハードウエアです

  • you might want a dashboard

    ここで多くの時間を過ごすならば

  • where you could do things like make a phone call,

    ダッシュボードが必要です

  • move to a new virtual world,

    電話をかけたり

  • check your bank account.

    次の仮想世界に移動したり

  • Now, while this is what you would look like in virtual reality,

    銀行口座を確認したりします

  • this is what an em would look like in virtual reality.

    みなさんは仮想現実世界ではこんな姿でしょう

  • It's computer hardware sitting in a server rack somewhere.

    これは emの仮想現実世界での姿です

  • But still, it could see and experience the same thing.

    どこかのサーバーラックにある コンピューターです

  • But some things are different for ems.

    でもみなさんと 同じものを見て体験できます

  • First, while you'll probably always notice that virtual reality isn't entirely real,

    ただ emにとっては違う点も いくつかあります

  • to an em, it can feel as real to them as this room feels to you now

    まず みなさんは仮想現実が完全には 現実とは同じでは無いと分かっているでしょうが

  • or as anything ever feels.

    みなさんがこの部屋などに感じる現実感を

  • And ems also have some more action possibilities.

    em は感じているでしょう

  • For example, your mind just always runs at the same speed,

    更にemの活動にはもっと可能性があります

  • but an em can add more or less computer hardware to run faster or slower,

    例えば皆さんの思考は いつも同じ速さで走りますが

  • and therefore, if the world around them seems to be going too fast,

    emはコンピューターハードウェアを 増減させて速くあるいは遅くでき

  • they can just speed up their mind,

    それで周囲が自分より速すぎると感じたら

  • and the world around them would seem to slow down.

    スピードアップすれば

  • In addition, an em can make a copy of itself at that moment.

    周囲の速度も落ちてくるように思うでしょう

  • This copy would remember everything the same,

    加えてemはその時点での 自分を複製できるので

  • and if it starts out with the same speed, looking at the same speed,

    このコピーは全てを同じく覚えているでしょう

  • it might even need to be told, "You are the copy."

    emが同じ処理速度で始動すると その処理速度から区別はつかず

  • And em could make archive copies,

    「お前はコピーだ」と 言われないと自覚しないかも知れません

  • and with enough archives,

    emはアーカイブコピーを作ることもでき

  • an em can be immortal --

    それが十分な数になると

  • in principle, though not usually in practice.

    emは不滅になります

  • And an em can move its brain, the computer that represents its brain,

    理論上です 実際にそうなることはないでしょう

  • from one physical location to another.

    emはその脳を — 脳として機能するコンピューターを

  • Ems can actually move around the world at the speed of light,

    物理的に動かせます

  • and by moving to a new location,

    emは光の速度で世界を動き回れます

  • they can interact more quickly with ems near that new location.

    そして新たな場所に移動し

  • So far, I've been talking about what ems can do.

    その地点付近のemとより速く会話できます

  • What do ems choose to do?

    これまでemが出来ることについて 話してきました

  • To understand that, we'll need to understand three key facts.

    ではemは何をすることを選ぶでしょう?

  • First, ems by definition do what the human they emulate would do

    それを理解するために 3つの主な事実を理解する必要があります

  • in the same situation.

    同じ状況では emは手本である人間と同じ行動を

  • So their lives and behavior are very human.

    選ぶものです

  • They're mainly different because they're living in a different world.

    ですから彼らの生活や行動は とても人間らしく

  • Second, ems need real resources to survive.

    彼らが人間と違うのは 人間とは違う世界に生きているためです

  • You need food and shelter or you'll die.

    2点目 emは生存に 物理的な資源を必要とします

  • Also, ems need computer hardware, energy, cooling, or they can't exist.

    皆さんも生きるのには家屋や食糧が必要ですね

  • For every subjective minute that an em experiences,

    emが生きるためにはハードウェアと エネルギー、冷却装置などが必要です

  • someone, usually that em, had to work to pay for it.

    emの主観における1分ごとに

  • Third, ems are poor.

    通常そのem自身が その分を稼がなければなりません

  • (Laughter)

    3点目 emにはお金がありません

  • The em population can grow quicker than the em economy,

    (笑)

  • so that means wages fall down to em subsistence levels.

    emの数はem経済の成長よりも速く増え

  • That means ems have to be working most of the time.

    これはemの最低生活可能レベルまで 賃金が下がることを意味し

  • So that means this is what ems usually see:

    emはほぼ常に 働かなければならないことを意味します

  • beautiful and luxurious, but desks --

    つまりemが通常見る風景は このようなものです

  • they're working most of the time.

    美しく豪華ですが 机しか無く—

  • Now, a subsistence wage scenario, you might think, is exotic and strange,

    彼らはほとんどの時間 働いています

  • but it's actually the usual case in human history,

    最低生活賃金シナリオは 珍しく奇妙なものに思えるかも知れませんが

  • and it's how pretty much all wild animals have ever lived,

    これは実は人類史に於いて普通のことで

  • so we know what humans do in this situation.

    あらゆる野生生物も このシナリオで生きて来ました

  • Humans basically do what it takes to survive,

    だから人間がこの状況下で どう行動するか分かります

  • and this is what lets me say so much about the em world.

    人間は生き延びる為に生活します

  • When creatures are rich, like you,

    それがemの世界についても言えます

  • you have to know a lot about what they want

    みなさんのように豊かであれば

  • to figure out what they do.

    それらの行動を予測するのに

  • When creatures are poor,

    それらの欲求を熟知する必要があります

  • you know that they mostly do what it takes to survive.

    生命体が貧しい存在であれば

  • So we've been talking about the em world from the point of view of the ems --

    大抵それらは 生き延びる為だけに行動しています

  • now, let's step back and look at their whole world.

    emの世界について emの視点から語ってきましたが

  • First, the em world grows much faster than ours,

    次は視点を変えて 彼らの世界全体を見てみましょう

  • roughly a hundred times faster.

    まず emの世界は 我々の世界よりも速く成長します

  • So the amount of change we would experience in a century or two,

    およそ100倍の速さで

  • they would experience in a year or two.

    我々が1〜2世紀の間に経験する変化を

  • And I'm not really willing to project this age much beyond that,

    彼らは1〜2年で経験します

  • because plausibly by then something else will happen, I don't know what.

    その後を予測することは止めておきます

  • Second, the typical emulation runs even faster,

    きっと何かが起こり変化していくでしょうから 私には分かりません

  • roughly a thousand times human speed.

    次に典型的なエミュレーションは

  • So for them, they experience thousands of years in this year or two,

    人間の速度のおよそ1千倍速く走るため

  • and for them, the world around them is actually changing more slowly

    数千年を1〜2年で経験し

  • than your world seems to change for you.

    彼らにとって世界は 皆さんが感じるよりも

  • Third, ems are crammed together in a small number of very dense cities.

    もっとゆっくりと過ぎて行きます

  • This is not only how they see themselves in virtual reality,

    3つ目にemは少数の とても混み合った都市に詰め込まれています

  • it's also how they actually are physically crammed together.

    これは彼らが仮想現実世界でも

  • So at em speeds, physical travel feels really painfully slow,

    実際でも 物理的に押し込められている姿です

  • so most em cities are self-sufficient,

    emの感覚では物理的な移動は 痛々しい程に遅く感じられるので

  • most war is cyber war,

    ほとんどのemの都市は自給自足しています

  • and most of the rest of the earth away from the em cities

    ほとんどの戦争はサイバー戦争になり

  • is left to the humans, because the ems really aren't that interested in it.

    emの都市から離れた場所が

  • Speaking of humans,

    人間達の居住地として残されるでしょう emはそこに大して興味を持ちません

  • you were wanting to hear about that.

    人間といえば

  • Humans must retire, at once, for good.

    みなさんが聞きたがっていますが

  • They just can't compete.

    人間は即刻永遠に 引退しなければならないでしょう

  • Now, humans start out owning all of the capital in this world.

    emと競合することはできません

  • The economy grows very fast, their wealth grows very fast.

    人間は この世界の 資本のすべてを手にしていましたが

  • Humans get rich, collectively.

    経済が非常に速く成長し 彼らの富は非常に速く成長し

  • As you may know, most humans today don't actually own that much

    人間は 集団として 豊かになります

  • besides their ability to work,

    ご存知かも知れませんが 殆どの人は 実際には仕事をする能力のほかに

  • so between now and then, they need to acquire sufficient assets,

    あまり何も持っていません

  • insurance or sharing arrangements,

    今からその時までに 彼らは十分な資産を取得し保険や資産共有の

  • or they may starve.

    取り決めをしなければならず

  • I highly recommend avoiding this outcome.

    さもなくば彼らは餓死します

  • (Laughter)

    そんな結末を避けることを強くお勧めします

  • Now, you might wonder,

    (笑)

  • why would ems let humans exist?

    不思議に思うかも知れません

  • Why not kill them, take their stuff?

    emはなぜ人間を生かしておくの?

  • But notice we have many unproductive retirees around us today,

    人間を殺して財産を奪うこともできるのに?

  • and we don't kill them and take their stuff.

    でも人間も非生産的な退職者達を

  • (Laughter)

    殺して財産を奪ったりしないでしょう

  • In part, that's because it would disrupt the institutions we share with them.

    (笑)

  • Other groups would wonder who's next,

    ひとつにはそんなことをすれば emと私たちが共有する社会が崩壊するからです

  • so plausibly, ems may well let humans retire in peace during the age of em.

    他のグループは次は誰の番だと 訝しがるでしょうし

  • You should worry more that the age of em only lasts a year or two

    emの時代に 人間は穏やかに退職させられるかも知れません

  • and you don't know what happens next.

    それよりemの時代が1〜2年しか 続かない事の方を心配するべきでしょう

  • Ems are very much like humans,

    その次に何が起こるかは分かりません

  • but they are not like the typical human.

    emは人間によく似ていますが

  • The typical em is a copy of the few hundred most productive humans.

    典型的な人間とは違い

  • So in fact, they are as elite, compared to the typical human,

    典型的な1つのemは 数百人の最も生産的な人間のようなものです

  • as the typical billionaire, Nobel Prize winner,

    ですからemは普通の人間からすると—

  • Olympic gold medalist, head of state.

    億万長者やノーベル賞受賞者

  • Ems look on humans perhaps with nostalgia and gratitude,

    ゴールドメダリストや 国家元首並みに優れています

  • but not so much respect,

    emはおそらく人間に対して 郷愁と感謝を感じるでしょうが

  • which is, if you think about it, how you think about your ancestors.

    尊敬の念はそれほど感じないでしょう

  • We know many things about how humans differ in terms of productivity.

    考えてみると 私たちが先祖を思うようなものです

  • We can just use those to predict features of ems --

    皆知っている通り人間の生産性は様々です

  • for example, they tend to be smart, conscientious, hard-working,

    これに基づいてemの機能を予測できます

  • married, religious, middle-aged.

    例えば彼らは賢く、良心的で 勤勉で、結婚していて、信仰があり

  • These are features of ems.

    中年だという傾向があります

  • Em world also contains enormous variety.

    これらはemの特徴です

  • Not only does it continue on with most of the kinds of variety that humans do,

    emの世界は莫大な多様性を内包しています

  • including variety of industry and profession,

    emは人間達のように多様性と直面します

  • they also have many new kinds of variety,

    様々な産業や職業に加え

  • and one of the most important is mind speed.

    新たな種類の多様性も持ちます

  • Ems can plausibly go from human speed

    その最も重要なものの一つは マインド・スピードです

  • up to a million times faster than human speed,

    emは人間の速度から

  • and down to a billion times slower than human speed.

    百万倍速くも

  • Faster ems tend to have markers of high status.

    10億分の1に遅くもなれます

  • They embody more wealth. They win arguments.

    より速いemはより高い地位に就き

  • They sit at premium locations.

    富を持ち 議論に勝ち

  • Slower ems are mostly retirees,

    絶好の場所に鎮座します

  • and they are like the ghosts of our literature.

    より遅いemの多くは退職者達で

  • If you recall, ghosts are all around us --

    文学に登場する幽霊のような存在です

  • you can interact with them if you pay the price.

    思い出してください 霊はそこら中にいて

  • But they don't know much, they can't influence much,

    お金を出せば降霊だってできます

  • and they're obsessed with the past, so what's the point?

    でも彼らはあまり物事を知らず 影響力も無く

  • (Laughter)

    過去に囚われ— 取るに足りません

  • Ems also have more variety in the structure of their lives.

    (笑)

  • This is your life: you start and you end, really simple.

    emの生涯には多様な形態があります

  • This is the life of an em,

    これはあなたの一生です 初めと終わりがある—単純です

  • who every day splits off some short-term copies

    emの一生は

  • to do short-term tasks and then end.

    毎日短命なコピーを作り出し

  • We'll talk more about those short term versions in a moment,

    それらは短期的なタスクをして命を終えます

  • but they are much more efficient

    この短命なemについて後ほど触れますが

  • because they don't have to rest for the next day.

    彼らははるかに効率的です

  • This em is more opportunistic.

    次の日の為に休息する必要が無いので

  • They make more copies of themselves when there's more demand for that.

    このemは隙あらば増殖し

  • They don't know which way the future's going.

    需要次第で自身のコピーをたくさん作ります

  • This is an em designer,

    彼らは未来がどうなるか知りもしません

  • who conceives of a large system

    これはemデザイナーで

  • and then breaks recursively into copies who elaborate that,

    大きなシステムを構想し

  • so ems can implement larger, more coherent designs.

    繰り返しコピーに分かれて行き

  • This an emulation plumber

    emはより大規模で一貫性のある デザインを実現します

  • who remembers that every day, for the last 20 years,

    これは配管工タイプです

  • they only ever worked two hours a day, a life of leisure.

    過去20年間毎日2時間しか働かなかった

  • But what really happened is, every day they had a thousand copies,

    悠々生活の記憶を持っています

  • each of whom did a two-hour plumbing job,

    毎日1千のコピーを作り

  • and only one of them went on to the next day.

    それぞれが2時間配管の仕事をして

  • Objectively, they're working well over 99 percent of the time.

    1つだけが次の日まで生きます

  • Subjectively, they remember a life of leisure.

    客観的に見ると 彼らは99%以上の時間働いていますが

  • (Laughter)

    主観的には悠々生活を覚えています

  • This, again, is you. You start and you end.

    (笑)

  • This could be you if at the start of party,

    またあなたの一生です 初めと終わりがあるります

  • you took a drug that meant you would not remember that party

    これはパーティーの始まりのあなたで [忘却は『死』?]

  • ever after that day.

    パーティーが終われば すっかりその記憶を失うクスリを

  • Some people do this, I'm told.

    飲みました

  • Toward the end of the party,

    そんなことをする人々がいるんだそうです

  • will you say to yourself, "I'm about to die, this is terrible.

    パーティーの終わりに

  • That person tomorrow isn't me, because they won't remember what I do."

    あなたは呟きます 「もう死ぬんだ こんなの酷い

  • Or you could say, "I will go on tomorrow. I just won't remember what I did."

    明日はもう自分ではなくなる 誰も自分の事を覚えていないから」

  • This is an em who splits off a short-term copy

    それか こう言うでしょう「今日のことは 覚えていなくても明日もちゃんと生きるさ」

  • to do a short-term task and then end.

    このemは短命のコピーを生み出し

  • They have the same two attitude possibilities.

    それは短期タスクを遂行し死にます

  • They can say, "I'm a new short-term creature with a short life. I hate this."

    彼らには2種類の態度を取る可能性があります

  • Or "I'm a part of a larger creature who won't remember this part."

    「自分は短命な生命だ 最悪」 あるいは

  • I predict they'll have that second attitude,

    「自分より大きな生命体の一部で それは記憶されないんだ」

  • not because it's philosophically correct, but because it helps them get along.

    彼らはおそらく後者でしょう

  • Today, if the president says we must invade Iraq,

    それが哲学的に正しいからでは無く 彼らが共存する為に有効だからです