But people have a hard time agreeing on exactly how.

しかし、その具体的な方法については、なかなか意見が一致しません。

The following are excerpts from an interview where renowned computer science professor and AI expert Stuart Russell helps separate the sense from the nonsense.

以下はインタビューからの抜粋です。コンピュータサイエンスの著名な教授であり、AIの専門家でもあるスチュアート・ラッセル氏が は、センスとナンセンスを分離するのに役立ちます。

There's a big difference between asking a human to do something and giving that as the objective to an AI system.

人間にお願いするのとでは、大きな違いがありますそれをAIシステムに目的語として与える。

When you ask a human to get you a cup of coffee, you don't mean this should be their life's mission, and nothing else in the universe matters.

人間にコーヒーを頼むとき。でも、それを人生のミッションにするのは、ちょっと違うんじゃないかと思うんです。 そして、この宇宙には他のものは関係ない。

Even if they have to kill everybody else in Starbucks to get you the coffee before it closes—they should do that.

たとえスターバックスにいる他の人たちを殺さなければならないとしても閉店前にコーヒーが飲めるように、そうするべきだ。

No, that's not what you mean.

いや、そういうことではないんです。

All the other things that we mutually care about, they should factor into your behavior as well.

その他、お互いが気になることを全て。あなたの行動にも影響を与えるはずです。

And the problem with the way we build AI systems now is we give them a fixed objective.

そして、今のAIシステムの作り方の問題点というのも、私たちは彼らに一定の目的を与えているのです。

The algorithms require us to specify everything in the objective.

このアルゴリズムでは、目的語をすべて指定する必要があります。

And if you say, can we fix the acidification of the oceans?

また、海の酸性化を解決できるかと言われれば、そうでもありません。

Yeah, you could have a catalytic reaction that does that extremely efficiently,

ええ、それを極めて効率的に行う触媒反応ができるかもしれませんね。

but it consumes a quarter of the oxygen in the atmosphere,

が、大気中の酸素の4分の1を消費している。

which would apparently cause us to die fairly slowly and unpleasantly over the course of several hours.

というのは、どうやらかなりゆっくりと不愉快に死ぬことになりそうです。数時間かけて

So, how do we avoid this problem?

では、どうすればこの問題を回避できるのでしょうか。

You might say, okay, well, just be more careful about specifying the objective—don't forget the atmospheric oxygen.

と言われるかもしれませんが、そうではなく、もっと慎重に目的語を指定すればいいのです。大気中の酸素も忘れないでください。

And then, of course, some side effect of the reaction in the ocean poisons all the fish.

そして、もちろん、海での反応の副次的な効果もありますは、すべての魚を毒殺する。

Okay, well I meant don't kill the fish either.

なるほど、魚も殺してはいけないということですね。

And then, well, what about the seaweed?

それから、まあ、海苔はどうなんでしょうね。

Okay, don't do anything that's going to cause all the seaweed to die, and on and on and on.

海藻が全部枯れてしまうようなことはしないでください。そして、延々と続く。

And the reason that we don't have to do that with humans is that humans often know that they don't know all the things that we care about.

そして、人間でそれをする必要がない理由は人間は、自分たちが気にしていることをすべて知っているわけではないことをよく理解しています。

If you ask a human to get you a cup of coffee, and you happen to be in the Hotel George Sand in Paris, where the coffee is 13 euros a cup,

人間に「コーヒーを買ってきて」と頼んだらで、あなたはたまたまパリのホテル・ジョージ・サンドにいる。 コーヒーが1杯13ユーロのところ。

it's entirely reasonable to come back and say, "Well, it's 13 euros, are you sure you want it? Or I could go next door and get one?"

13ユーロです、と言って帰ってくるのはまったくもって合理的です。本当に欲しいんですか？それとも隣に行って買って来ましょうか？

And it's a perfectly normal thing for a person to do—to ask.

そして、それは人として至極当たり前のことなのです。

I'm going to repaint your house, is it okay if I take off the drainpipes and then put them back?

あなたの家を塗り替えようと思うのですが......」と尋ねること。は、ドレンパイプを一度外して、元に戻しても大丈夫ですか？

We don't think of this as a terribly sophisticated capability, but AI systems don't have it because the way we build them now, they have to know the full objective.

私たちは、これをひどく高度な能力だとは思っていません。しかし、AIシステムには、今の作り方ではそれがないのです。そのためには、すべての目的を知らなければならない。

If we build systems that know that they don't know what the objective is, then they start to exhibit these behaviors,

目的がわからないとわかっているシステムを作れば。といった行動をとるようになります。

like asking permission before getting rid of all the oxygen in the atmosphere.

大気中の酸素をすべて取り除く前に、許可を得るようなものです。

In all these senses, control over the AI system comes from the machine's uncertainty about what the true objective is.

これらの意味において、AIシステムのコントロールはは、真の目的が何であるかについてのマシンの不確実性から来る。

It's when you build machines that believe with certainty that they have the objective, that's when you get this sort of psychopathic behavior.

そして、確信を持って信じることができるマシンを作るときこそ目的を持っていること。 というのは、こういうサイコパス的な行動が出てくるんです。

And I think we see the same thing in humans.

そして、人間にも同じようなことが言えると思うのです。

What happens when general purpose AI hits the real economy?

汎用AIが実体経済を直撃するとどうなるか？

How do things change? Can we adapt?

どのように変化するのか？私たちは適応できるのか？

This is a very old point.

これは非常に古い指摘です。

Amazingly, Aristotle actually has a passage where he says,

驚くべきことに、アリストテレスには、実はこんな一節があるのです。ほら、もし全自動織機があったら...。 と竪琴を弾くことができるプレクトラムがあり、人間を介さずに音楽を奏でることができました。そうすれば、労働者は必要ない。

"Look, if we had fully automated weaving machines and plectrums that could pluck the lyre and produce music without any humans, then we wouldn't need any workers."

That idea, which I think it was Keynes who called it technological unemployment in 1930, is very obvious to people.

その考え方は、ケインズだったと思うのですが1930年に技術的失業と呼んだ人。 は、人にとてもわかりやすい。

They think, yeah, of course, if the machine does the work, then I'm going to be unemployed.

機械がやってくれるなら、ええ、もちろん、と思ってくれる。となると、私は無職になる。

You can think about the warehouses that companies are currently operating for e-commerce, they are half automated.

現在、企業が運営している倉庫について考えることができるeコマースの場合は、半分くらいは自動化されています。

The way it works is that an old warehouse— where you've got tons of stuff piled up all over the place and humans go and rummage around and then bring it back and send it off—

その仕組みは、古い倉庫に大量の荷物が積み上げられた状態で人間が行って物色している間に で、それを持ち帰って、オフにして送る。

there's a robot who goes and gets the shelving unit that contains the thing that you need,

棚を取りに行くロボットがいる。必要なものが入っている

but the human has to pick the object out of the bin or off the shelf, because that's still too difficult.

しかし、人間はその物体をビンや棚から取り出さなければならないのです。というのは、やはり難しすぎるからです。

But, at the same time, would you make a robot that is accurate enough to be able to pick pretty much any object within a very wide variety of objects that you can buy?

しかし、同時にを選ぶことができるほど正確なロボットを作ることができますか？を購入することができます非常に豊富なオブジェクトの中でかなり？

That would, at a stroke, eliminate 3 or 4 million jobs?

そうすると、一気に300万、400万人分の雇用が失われるのでは？

There's an interesting story that E.M. Forster wrote, where everyone is entirely machine dependent.

E.M.フォースターが書いた面白い話がある。誰もが完全に機械に依存しているところ。

The story is really about the fact that if you hand over the management of your civilization to machines, you then lose the incentive to understand it yourself or to teach the next generation how to understand it.

を渡せば、本当にその通りになる、という話です。文明を機械に管理させる。 りかにふれるあるいは、次の世代に理解する方法を教えることです。

You can see "WALL-E" actually as a modern version, where everyone is enfeebled and infantilized by the machine, and that hasn't been possible up to now.

ウォーリー』は、実は現代版として見ることができるんです。誰もが機械によって衰弱し、幼稚化する場所。 と、今まではできなかったことです。

We put a lot of our civilizations into books, but the books can't run it for us.

私たちは、文明の利器を本に託しています。しかし、本ではそれを実行することはできません。

And so we always have to teach the next generation.

だから、私たちは常に次の世代に教えなければならないのです。

If you work it out, it's about a trillion person years of teaching and learning and an unbroken chain that goes back tens of thousands of generations.

計算すると、約1兆人年分の教育・学習が行われていることになると、何万世代にもわたって連綿と続いてきたのです。

What happens if that chain breaks?

そのチェーンが切れたらどうするんですか？

I think that's something we have to understand as AI moves forward.

それは、AIが進むにつれて理解しなければならないことだと思います。

The actual date of arrival of general purpose AI—you're not going to be able to pinpoint, it isn't a single day.

実際に汎用AI-が登場した日。ピンポイントに、1日ではありません。

It's also not the case that it's all or nothing.

また、オール・オア・ナッシングというわけでもない。

The impact is going to be increasing.

その影響はますます大きくなっていくでしょう。

So with every advance in AI, it significantly expands the range of tasks.

だから、AIが進化するたびにそのため、仕事の幅が大きく広がります。

So in that sense, I think most experts say by the end of the century, we're very, very likely to have general purpose AI.

そういう意味では、今世紀中にはという専門家が多いのではないでしょうか。汎用AIが誕生する可能性は非常に高いと思います。

The median is something around 2045.

中央値は2045年頃です。

I'm a little more on the conservative side. I think the problem is harder than we think.

私は少し保守的な面もあります。この問題は、私たちが考えている以上に難しいことだと思います。

I like what John McAfee (said), he was one of the founders of AI, when he was asked this question, he said, "well, somewhere between 5 and 500 years. And we're going to need, I think, several Einsteins to make it happen."

ジョン・マカフィーという人は、AIの創始者の一人ですが、その言葉が好きです。という質問に、「5年から500年の間」と答えている。 そして、それを実現するためには、何人ものアインシュタインが必要だと思うのです。