I think some of you were, too.

子供の頃 私はごく典型的な オタク少年でした

(Laughter)

皆さんの中にも いるでしょう

And you, sir, who laughed the loudest, you probably still are.

(笑)

(Laughter)

そこで大声で笑った人 あなたは今もそうでしょう

I grew up in a small town in the dusty plains of north Texas,

(笑)

the son of a sheriff who was the son of a pastor.

北テキサスのほこりっぽい平原の 小さな町で育ち

Getting into trouble was not an option.

父は牧師の子で 保安官をしていました

And so I started reading calculus books for fun.

トラブルを起こすなんて論外です

(Laughter)

それで趣味として 解析学の本を読むようになりました

You did, too.

(笑)

That led me to building a laser and a computer and model rockets,

あなたもですか？

and that led me to making rocket fuel in my bedroom.

それでレーザーやコンピューターや ロケットなんかを作るようになり

Now, in scientific terms,

さらには自分の部屋で ロケット燃料まで作りました

we call this a very bad idea.

科学用語で言うと これは

(Laughter)

「とってもまずい考え」です

Around that same time,

(笑)

Stanley Kubrick's "2001: A Space Odyssey" came to the theaters,

同じ頃

and my life was forever changed.

スタンリー・キューブリックの 『2001年宇宙の旅』が劇場公開され

I loved everything about that movie,

私の人生を永遠に 変えることになりました

especially the HAL 9000.

あの映画の すべてが好きで

Now, HAL was a sentient computer

ことに HAL 9000が 好きでした

designed to guide the Discovery spacecraft

HALは 知覚力のある コンピューターで

from the Earth to Jupiter.

宇宙船ディスカバリー号を 地球から木星へとガイドすべく

HAL was also a flawed character,

設計されていました

for in the end he chose to value the mission over human life.

HALにはまた 性格上の欠陥があり

Now, HAL was a fictional character,

最終的に人間の命よりも ミッションを優先させます

but nonetheless he speaks to our fears,

HALは架空のキャラクターですが

our fears of being subjugated

私たちの恐怖を 呼び起こします

by some unfeeling, artificial intelligence

人間に無関心な

who is indifferent to our humanity.

感情のない人工知能に

I believe that such fears are unfounded.

支配されるという恐怖です

Indeed, we stand at a remarkable time

そのような恐怖は 根拠のないものです

in human history,

私たちは実際

where, driven by refusal to accept the limits of our bodies and our minds,

人類史の中でも 目覚ましい時代にいます

we are building machines

肉体や精神の限界を 受け入れることを拒み

of exquisite, beautiful complexity and grace

精緻で美しく

that will extend the human experience

複雑で優雅な機械を作り

in ways beyond our imagining.

それが我々の想像を 超えるような仕方で

After a career that led me from the Air Force Academy

人間の体験を 拡張することになるでしょう

to Space Command to now,

私は空軍士官学校を出て

I became a systems engineer,

宇宙軍で働いた後

and recently I was drawn into an engineering problem

システム屋になりましたが

associated with NASA's mission to Mars.

最近 NASAの 火星ミッションに関連する

Now, in space flights to the Moon,

エンジニアリング上の問題へと 引き寄せられました

we can rely upon mission control in Houston

月へ行くのであれば

to watch over all aspects of a flight.

ヒューストンの 地上管制センターから

However, Mars is 200 times further away,

飛行の全過程を 見守れます

and as a result it takes on average 13 minutes

しかし火星は月より 200倍も離れています

for a signal to travel from the Earth to Mars.

そのため 信号が地球から 火星に届くのには

If there's trouble, there's not enough time.

平均で13分もかかります

And so a reasonable engineering solution

トラブルが起きた場合 そんなに待ってはいられません

calls for us to put mission control

妥当な工学的解決策として

inside the walls of the Orion spacecraft.

オリオン号の壁の中に

Another fascinating idea in the mission profile

管制機能を設けることにしました

places humanoid robots on the surface of Mars

ミッション概略にある 別の面白いアイデアとして

before the humans themselves arrive,

人間型ロボットを火星表面に

first to build facilities

人間が行く前に送って

and later to serve as collaborative members of the science team.

施設を作らせ

Now, as I looked at this from an engineering perspective,

その後は 科学者チームの一員として 働かせるというのがあります

it became very clear to me that what I needed to architect

これを工学的な観点で見て 明らかになったのは

was a smart, collaborative,

ここで設計する必要があるのは

socially intelligent artificial intelligence.

賢く 協力的で

In other words, I needed to build something very much like a HAL

社会的な人工知能 だということです

but without the homicidal tendencies.

言い換えると 何かHALのようなものを 作る必要があるということです

(Laughter)

ただし殺人癖は抜きで

Let's pause for a moment.

(笑)

Is it really possible to build an artificial intelligence like that?

少し立ち止まって 考えてみましょう

Actually, it is.

そのような人工知能を作ることは 可能なのでしょうか

In many ways,

可能です

this is a hard engineering problem

何にせよ

with elements of AI,

これは人工知能の 要素がある

not some wet hair ball of an AI problem that needs to be engineered.

工学上の問題であって

To paraphrase Alan Turing,

得体の知れない 人工知能の問題ではありません

I'm not interested in building a sentient machine.

チューリングの言葉を 少し変えて言うと

I'm not building a HAL.

知覚力のある機械を作ることには 関心がありません

All I'm after is a simple brain,

HALを作ろうとは していません

something that offers the illusion of intelligence.

私がやろうとしているのは 単純な脳

The art and the science of computing have come a long way

知性の幻想を 提供する何かです

since HAL was onscreen,

HALが映画に現れて以来

and I'd imagine if his inventor Dr. Chandra were here today,

コンピューターの科学と技術は 大きく進歩しました

he'd have a whole lot of questions for us.

HALの生みの親のチャンドラ博士が ここにいたなら

Is it really possible for us

我々に聞きたいことが 山ほどあるはずです

to take a system of millions upon millions of devices,

何百万 何千万という デバイスを使い

to read in their data streams,

そのデータストリームを読んで

to predict their failures and act in advance?

故障を予期し

Yes.

前もって対処することは できるのか？

Can we build systems that converse with humans in natural language?

できます

Yes.

自然言語で人間と会話するシステムを 構築することはできるのか？

Can we build systems that recognize objects, identify emotions,

できます

emote themselves, play games and even read lips?

物を認識し 人の感情を判断し 自分の感情を表現し ゲームをし

Yes.

唇の動きすら読めるシステムを 作ることはできるのか？

Can we build a system that sets goals,

できます

that carries out plans against those goals and learns along the way?

目標を設定し その実現のための計画を実行し

Yes.

その過程で学習するシステムを 作ることはできるのか？

Can we build systems that have a theory of mind?

できます

This we are learning to do.

心の理論を備えたシステムを 作ることはできるのか？

Can we build systems that have an ethical and moral foundation?

これは我々がやり方を 学ぼうとしていることです

This we must learn how to do.

倫理的・道徳的基盤を持つシステムを 作ることはできるのか？

So let's accept for a moment

これは我々がやり方を 学ぶ必要のあることです

that it's possible to build such an artificial intelligence

このようなミッションや その他のことための

for this kind of mission and others.

人工知能を作ることは 可能であると

The next question you must ask yourself is,

認めることにしましょう

should we fear it?

次に問わなければ ならないのは

Now, every new technology

我々はそれを怖れるべきか ということです

brings with it some measure of trepidation.

どんな新技術も

When we first saw cars,

常にある程度の怖れは 引き起こすものです

people lamented that we would see the destruction of the family.

始めて自動車を 目にした人々は

When we first saw telephones come in,

家族が壊されるのを見ることに なるだろうと嘆いたものです

people were worried it would destroy all civil conversation.

始めて電話機を 目にした人々は

At a point in time we saw the written word become pervasive,

礼儀にかなった会話が 損なわれると懸念したものです

people thought we would lose our ability to memorize.

書かれたもので 溢れるのを見た人々は

These things are all true to a degree,

記憶力が失われるのでは と思ったものです

but it's also the case that these technologies

ある程度は合っていますが

brought to us things that extended the human experience

そういった技術は

in some profound ways.

人間の体験を

So let's take this a little further.

根本的に広げてもくれました

I do not fear the creation of an AI like this,

さらに話を進めましょう

because it will eventually embody some of our values.

私はそのような人工知能を 作ることに怖れは感じません

Consider this: building a cognitive system is fundamentally different

それは人間の価値観を 体現することになるからです

than building a traditional software-intensive system of the past.

認知システムを作るのは

We don't program them. We teach them.

従来のソフトウェア中心のシステムを 作るのとは 根本的に異なります

In order to teach a system how to recognize flowers,

プログラムするのではなく 教えるのです

I show it thousands of flowers of the kinds I like.

システムに花を 認識させるために

In order to teach a system how to play a game --

私は自分の好きな 何千という花を見せます

Well, I would. You would, too.

システムにゲームの遊び方を 教えるには —

I like flowers. Come on.

私だってゲームはしますよ 皆さんもでしょう？

To teach a system how to play a game like Go,

花だって好きだし らしくないですか？

I'd have it play thousands of games of Go,

碁のようなゲームの遊び方を システムに教えるには

but in the process I also teach it

碁を何千回も指させ

how to discern a good game from a bad game.

その過程で

If I want to create an artificially intelligent legal assistant,

良い盤面・悪い盤面を 識別する方法を教えます

I will teach it some corpus of law

人工知能の弁護士助手を 作ろうと思ったら

but at the same time I am fusing with it

法律も教えますが

the sense of mercy and justice that is part of that law.

同時に法の一部をなす

In scientific terms, this is what we call ground truth,

慈悲や公正の感覚を 吹き込むでしょう

and here's the important point:

科学用語では これを グランドトゥルースと言います

in producing these machines,

重要なのは

we are therefore teaching them a sense of our values.

そういう機械を作るとき

To that end, I trust an artificial intelligence

我々は自分の価値観を 教えることになるということです

the same, if not more, as a human who is well-trained.

それだから私は 人工知能を

But, you may ask,

きちんと訓練された人間と同様に 信頼するのです

what about rogue agents,

でも悪いことをする工作員や

some well-funded nongovernment organization?

ある種の資金豊富な 非政府組織なんかの

I do not fear an artificial intelligence in the hand of a lone wolf.

手にかかったなら？

Clearly, we cannot protect ourselves against all random acts of violence,

一匹狼の扱う人工知能には 怖れを感じません

but the reality is such a system

あらゆる暴力から 身を守れるわけではありませんが

requires substantial training and subtle training

そのようなシステムには

far beyond the resources of an individual.

個人のリソースの範囲を 大きく超えた

And furthermore,

膨大で精妙なトレーニングが 必要になります

it's far more than just injecting an internet virus to the world,

さらにそれは 単にインターネットへ ウィルスを送り込むより

where you push a button, all of a sudden it's in a million places

遙かに大変なことです

and laptops start blowing up all over the place.

ウィルスならボタン１つで そこら中のパソコンが

Now, these kinds of substances are much larger,

突然吹き飛んで しまうでしょうが

and we'll certainly see them coming.

そういうたぐいの 実体はずっと大きく

Do I fear that such an artificial intelligence

それがやってくるのは 確かに目にすることになります

might threaten all of humanity?

そういう人工知能が

If you look at movies such as "The Matrix," "Metropolis,"

全人類を脅かすのを 怖れるか？

"The Terminator," shows such as "Westworld,"

『マトリックス』『メトロポリス』 『ターミネーター』みたいな映画や

they all speak of this kind of fear.

『ウエストワールド』 みたいな番組を見ると

Indeed, in the book "Superintelligence" by the philosopher Nick Bostrom,

みんなそのような恐怖を 語っています

he picks up on this theme

『スーパーインテリジェンス (Superintelligence)』という本で

and observes that a superintelligence might not only be dangerous,

思想家のニック・ボストロムは このテーマを取り上げ

it could represent an existential threat to all of humanity.

人間を超える機械の知能は 危険なだけでなく

Dr. Bostrom's basic argument

人類存亡の危機に つながり得ると見ています

is that such systems will eventually

ボストロム博士の 基本的な議論は

have such an insatiable thirst for information

そのようなシステムはやがて

that they will perhaps learn how to learn

抑えがたい情報への渇望を 抱くようになり

and eventually discover that they may have goals

学び方を学んで

that are contrary to human needs.

最終的には人間の要求に 反する目的を

Dr. Bostrom has a number of followers.

持つようになる ということです

He is supported by people such as Elon Musk and Stephen Hawking.

ボストロム博士には 多くの支持者がいて

With all due respect

その中にはイーロン・マスクや スティーヴン・ホーキングもいます

to these brilliant minds,

そのような聡明な方々に

I believe that they are fundamentally wrong.

恐れながら申し上げると

Now, there are a lot of pieces of Dr. Bostrom's argument to unpack,

彼らは根本的に 間違っていると思います

and I don't have time to unpack them all,

検討すべきボストロム博士の議論は 沢山ありますが

but very briefly, consider this:

全部見ていく 時間はないので

super knowing is very different than super doing.

ごく簡単に １点だけ挙げるなら

HAL was a threat to the Discovery crew

「すごく知っている」のと 「すごいことができる」のとは違うということです

only insofar as HAL commanded all aspects of the Discovery.

HALは ディスカバリー号のあらゆる面を コントロールする限りにおいて

So it would have to be with a superintelligence.

乗組員にとって脅威でした

It would have to have dominion over all of our world.

スーパーインテリジェンスも そうです

This is the stuff of Skynet from the movie "The Terminator"

それが世界全体を支配している 必要があります

in which we had a superintelligence

スーパーインテリジェンスが 人の意志を支配する

that commanded human will,

『ターミネーター』の世界で

that directed every device that was in every corner of the world.

スカイネットは世界の あらゆるデバイスを

Practically speaking,

操っていました

it ain't gonna happen.

実際のところ

We are not building AIs that control the weather,

そんなことは 起こりません

that direct the tides,

天気を制御したり 潮の干満を決めたり

that command us capricious, chaotic humans.

気まぐれで無秩序な人間を 従わせるような人工知能を

And furthermore, if such an artificial intelligence existed,

我々は作りはしません

it would have to compete with human economies,

もしそのような人工知能が 存在したら

and thereby compete for resources with us.

人間の経済と 競合することになり

And in the end --

リソースを人間と 取り合うことになるでしょう

don't tell Siri this --

最終的には

we can always unplug them.

Siriには内緒ですが

(Laughter)

我々は電源プラグを 引っこ抜くことができます

We are on an incredible journey

(笑)

of coevolution with our machines.

私たちは機械と 共進化していく

The humans we are today

ものすごい旅の 途上にあります

are not the humans we will be then.

今日の人類は

To worry now about the rise of a superintelligence

明日の人類とは違っています

is in many ways a dangerous distraction

人間を超えた人工知能の 台頭を懸念するのは

because the rise of computing itself

コンピューターの台頭自体が 引き起こす

brings to us a number of human and societal issues

対処を要する 人間や社会の問題から

to which we must now attend.

注意をそらすことになり

How shall I best organize society

危険です

when the need for human labor diminishes?

人間の労働の必要が 減っていく社会を

How can I bring understanding and education throughout the globe

どうすれば上手く 運営できるのか？

and still respect our differences?

理解と教育を 地球全体に広げつつ

How might I extend and enhance human life through cognitive healthcare?

互いの違いに敬意を払うことは どうすれば可能か？

How might I use computing

認知システムによる医療で 人の生涯を 長く豊かなものにするにはどうしたら良いか？

to help take us to the stars?

星々に到るために

And that's the exciting thing.

コンピューターは いかに役立てられるか？

The opportunities to use computing

これはワクワクすることです

to advance the human experience

コンピューターを使って

are within our reach,

人間の体験を

here and now,

発展させられる機会が

and we are just beginning.

今 手の届くところにあり

Thank you very much.

それは始まったばかりです

(Applause)

ありがとうございました