Name: ロボット工学者が解説、未来を予測したロボット映画の矛盾点｜The Breakdown｜WIRED.jp（ワイアード (ロボット工学者が解説、未来を予測したロボット映画の矛盾点 | The Breakdown | WIRED.jp)
Uploaded: 2022-05-18T01:20:29.000Z
Duration: 18 min 40 s

Chris is a professor at the robotics institute at Carnegie Mellon University.

クリスはカーネギーメロン大学ロボット工学研究所の教授です。

I'll be breaking down clips from movie and tv about artificial intelligence and robotics out of control robots.

人工知能やロボット工学の制御不能なロボットについて、映画やテレビからクリップを分解して紹介する予定です。

You said they've all been programmed with the three laws.

みんな3つの法則でプログラムされているんでしょ？

Isaac Asimov was one of the earliest science fiction writers who focused on robots and he came up with this scheme of the three laws.

アイザック・アシモフは、ロボットに注目した初期のSF作家の一人で、この「3つの法則」という図式を考え出しました。

ええ、3つの法則は知っています。

Your perfect circle of protection robots don't hurt humans but doesn't the second law state that a robot has to obey any order given by a human being, except if it causes a violation of the first law, right?

あなたの完全な保護円のロボットは人間を傷つけないが、第二法則では、第一法則の違反を引き起こす場合を除き、ロボットは人間が出した命令に従わなければならないことになっていますよね？

But the third law states that a robot can defend itself unless it causes a violation of the second law.

しかし、第3法則では、ロボットは第2法則の違反を引き起こさない限り、自らを守ることができるとされています。

And the first law, we have 1000 robots that will not try to protect themselves if it violates a direct order from a human.

そして第一法則ですが、人間からの直接の命令に違反した場合、自分の身を守ろうとしないロボットが1000台もあるのです。

And I'm betting one who will got you get the hell out of here.

そして、私はあなたがここから出て行くようになる一人に賭けています。

You saw a robot that somehow it's three laws were disabled and that left it with an existential crisis, what am I?

ロボットがなぜか3つの法則を無効化され、実存的危機に陥っているのを見たんだろ、俺は何だ？

Which is sort of similar to what am I supposed to do next?

それは、次に何をすればいいのか、ということと似ていますね。

If I don't have any guiding purpose and if it was a case that robots ran on what we call expert systems or sets of laws that might actually be a reasonable way to program robots.

もし私が何の指針も持たず、ロボットがいわゆるエキスパートシステムや法則に基づいて動くとしたら、それは実際にロボットをプログラムする上で合理的な方法かもしれませんね。

You know what they say, laws are made to be broken.

法律は破られるためにある、とはよく言ったものだ。

But nowadays we're actually programming robots in a very different way by giving them lots of training examples and having them essentially learn parameters in formulas so that they do the right thing.

しかし、現在では、ロボットにたくさんの学習例を与え、正しい動作をするように数式でパラメータを学習させるという、全く異なる方法でプログラミングを行っています。

So we have this mismatch between logical rules and numbers in a formula.

つまり、論理ルールと数式中の数値のミスマッチが起きているのです。

So in robot movie after robot movie, they're obsessed with the robots actively turning against the humans and started killing humans.

だから、ロボット映画の次から次へと、ロボットが積極的に人間に敵対して、人間を殺し始めることに執着しているんです。

And I get that the goddamn robots john far more likely is the robot will screw up, it will make a mistake and that mistake will have bad consequences.

ロボットが失敗して、ミスを犯し、そのミスが悪い結果を招く可能性の方がはるかに高いということは分かっています。

アンドロイドのブレードランナーを不活性化する。

Should I really shoot the crazy robot that's coming to attack me?

襲ってくるクレイジーなロボットを本当に撃っていいのか？

It is a potentially a pretty good way to stop a robot.

ロボットを止めるには、かなり有効な手段である可能性があります。

Now there might be parts of its chassis that you shoot a bullet through.

今は、弾丸を撃ち抜くような筐体の部分があるかもしれません。

It doesn't do anything, it doesn't cut any wires.

So you might have to shoot it a bunch of times.

だから、何度も撮影する必要があるかもしれません。

There are other ways to disable a robot that might not damage it in the same way.

ロボットを無効にする方法は他にもあり、同じようにロボットにダメージを与えないかもしれません。

For example, there's something called an electromagnetic pulse which will fry all its circuits but leave the mechanics intact.

例えば、電磁パルスというものがありますが、これはすべての回路を焼き切りますが、メカニックは無傷のままです。

Blade Runner is a fantastic movie, has this incredible vision of the future, which by the way, we've already caught up with learning from imitation terminator.

ブレードランナー』は素晴らしい映画で、この信じられないような未来像を持っています。ところで、私たちはすでに『ターミネーター』の模倣から学んで追いついています。

Hey buddy got a dead cat in there or what you were going to program robots to have conversations and dialogue and in many, many situations you can anticipate what happens next.

ロボットに会話や対話をさせ、次に何が起こるかを予測できるようにプログラムするのです。

But sooner or later the robot's going to face the situation this new, it doesn't know what to say.

しかし、遅かれ早かれ、ロボットはこの新しい状況に直面し、何を言っていいのかわからなくなるのです。

You know, the robot's going to have to wing it in.

ロボットが羽交い締めにしてくれるんだろ。

This clip was the way to go a screen came up and english words were there and it sort of moved a cursor down and picked one that's only there for the audience of the movie.

このクリップは、画面が出てきて、そこに英単語があり、カーソルを下に動かして、映画の観客のためだけにあるものを選ぶという方法でした。

ロボットはそんなことはしない。

You know, it's all electronics, little transistors going blip, blip, blip and it's gonna make the decision decided our fate in a microsecond programming the new Westworld.

全部電子機器だ 小さなトランジスタが ピコピコピコピコピコピコピコ... ...我々の運命を決めるのは ほんの一瞬だ 新しい「西武」の番組で...

Occasionally in Westworld you see a black box looks like a fancy keyboard in which they're sort of programming various sub behaviors.

Westworld』では時折、黒い箱の中にキーボードのようなものが入っていて、そこで様々なサブの行動をプログラミングしているような光景を目にします。

プリミティブと呼ぶことにしましょう。

There's been this controversy of, do you build up behaviors from twitch here and a twitch there or do you have a few fundamental behaviors and then you combine them.

これまでにも、「あちらとこちらで行動を積み重ねるのか、それとも基本的な行動をいくつか持っていて、それを組み合わせていくのか」という論争がありました。

You must have I slipped it in there without telling anyone.

内緒で入れておいたんでしょう。

It turns out you can learn a lot faster if you combine these fundamental behaviors rather than adding up a lot of twitches, he calls them reveries.

多くのひねりを加えるよりも、こうした基本的な行動を組み合わせた方が、より速く学習できることがわかったのです。彼はこれを「レヴェリー」と呼んでいます。

The old gestures were just generic movements.

昔のジェスチャーは、一般的な動きに過ぎなかったんです。

These are tied to specific memories and this is a spoiler things in Westworld go bad because they couldn't completely wipe the memory of a robot.

これらは特定の記憶と結びついており、これは「ウエストワールド」のネタバレですが、ロボットの記憶を完全に消し去ることはできなかったので、事態は悪くなります。

The memories are purged at the end of every narrative.

記憶は、物語が終わるたびに浄化される。

They're still in there waiting to be overwritten.

上書きされるのを待っている状態です。

アクセスする方法を見つけたのだ。

It turns out in complex machines so you've got lots of different kinds of memory in lots of different kinds of places.

複雑な機械では、いろいろな種類のメモリがいろいろな場所にあることがわかります。

For example the CPU is gonna have a little bit of memory in it.

例えば、CPUにはちょっとしたメモリが搭載されることになります。

It will also have something called cache memory.

また、キャッシュメモリと呼ばれるものが搭載されます。

We have what's called a memory hierarchy.

メモリ階層と呼ばれるものがあるんです。

There's fast memory and then there's slower memory like a subconscious a hooker with hidden depths.

記憶には速度と、潜在意識のような深さを秘めた娼婦のような緩慢な記憶がある。

If you totally fried the machine, all you'd end up with is a broken robot.

機械を完全に壊してしまったら、壊れたロボットしか残りませんからね。

だから、マシンを完全に消去することはできないんだ。

It's the tiny things that make them seem real, robotics.

ちっちゃいからこそ、リアルに見えるんですよ、ロボットって。

そうですね......わかりました。

You look at that scene you say why is chemistry happening in robotics lab?

このシーンを見て、なぜロボット工学の研究室で化学が起こっているのか、と思うでしょう。

The future of robotics is where we make materials using chemistry to make soft materials.

これからのロボティクスは、化学を使ってソフトな素材を作るところです。

So that's actually it looks very similar to what goes on.

だから、それは実際に起こっていることと非常によく似ているのです。

And some of my colleagues labs at Carnegie Mellon.

カーネギーメロン大学の同僚の研究室もあります。

I thought showing you these tapes might help to make you more familiar with the drawing.

このテープをお見せすることで、より図面に親しんでいただけるのではないかと思ったのです。

We video record all our experiments and in fact often you know when we press an on button to say do something that simultaneously turns the cameras on programming the android takes him just so far.

私たちはすべての実験をビデオで記録していますし、実際、私たちがボタンを押すと、同時にカメラがオンになり、アンドロイドのプログラミングが行われることもよくあります。

Watching video feedback is very helpful to debug behavior.

ビデオフィードバックを見ることは、動作のデバッグに非常に有効です。

We had some difficulty with those gross motor functions before we modified his cerebral muscular coordination.

私たちは、彼の脳筋コーディネーションを修正する前に、それらの総運動機能で苦労していたのです。

さて、あなたは今、あるムチャクチャなものを見たわけです。

He's mixing things we'd say about a human who had a disease.

病気になった人間に対して言うようなことを混ぜているんです。

We modified his cerebral muscular coordination and a robot that doesn't know how to walk gross motor functions.

私たちは、彼の大脳筋協調運動と、総運動機能の歩き方を知らないロボットを改造しました。

Oh, my robots actually fell down much more than their robot did robot malfunction.

私のロボットは、彼らのロボットが故障したときよりも、ずっと多く倒れました。

Can you design an input to a robot that will cause it to malfunction or crash?

ロボットの誤動作やクラッシュを引き起こすような入力を設計できるか？

それができるのはオースティン・パワーズだけだ。

ベイビー・マルチ・エージェント・ロボティクス

Minority Report One area of research and robotics is what we call multi agent robotics.

マイノリティ・リポート ロボット工学の研究分野のひとつに、マルチエージェントロボティクスと呼ばれるものがあります。

Which is to get a bunch of robots to work together.

それは、たくさんのロボットを一緒に働かせることです。

We model that on humans working together like a sports team or when we're searching for somebody lost in the woods.

人間がスポーツチームのように協力したり、森で迷子になった人を探したりするときのモデルになっています。

Small robots in this clip, it would seem very smart and complicated.

この映像の中の小さなロボットは、とてもスマートで複雑に見えるでしょう。

The dream in robotics is can we make a lot of stupid cheap robots that by working together?

ロボット工学の夢は、連携することでバカみたいに安いロボットをたくさん作ることができるのではないか？

What we saw in this clip is they were using some kind of imaging radar to figure out where people are likely to be tom cruise hidden in the bathtub that water shields him from radar as you saw.

この映像では、バスタブに隠れたトム・クルーズをレーダーから隠すために、画像レーダーのようなものを使って人の居場所を割り出しています。

But it also tries to hide his thermal signature.

しかし、それは同時に彼の熱的なサインを隠そうとするものでもある。

So he's hotter than everything else around him And any kind of infrared imaging would have found him.

だから周りのものよりも熱く、どんな赤外線画像でも彼を見つけることができたのです。

字幕リスト動画再生

ロボット工学者が解説、未来を予測したロボット映画の矛盾点｜The Breakdown｜WIRED.jp（ワイアード (ロボット工学者が解説、未来を予測したロボット映画の矛盾点 | The Breakdown | WIRED.jp)

stuff

sort

essentially

bunch