During the day, it scans the Internet for new and exciting types of toast.

そのトースターは一日中、新しくて刺激的なトーストを求めてインターネットで探します。

Maybe it asks you about your day, and wants to chat about new achievements in toast technology.

あなたの一日について尋ねたり、トースト技術の新しい進展について話したいと思うかもしれません。

At what level would it become a person?

ではいったい、どのレベルになれば人間と同じになるのでしょうか？？

At which point will you ask yourself if your toaster has feelings?

そのトースターに感情があるかもしれないと感じ始めるのは、どんなタイミングでしょう？

If it did, would unplugging it be murder?

その場合、電源を切ってしまうことは殺すことになるのでしょうか？

And would you still own it? Will we someday be forced to give our machines rights?

感情を持ってもあなたは所有を続けますか？ いずれ私たちは機械に権利を与えざる を得なくなる日が来るのでしょうか？？

AI is already all around you.

人工知能はすでにあなたの身の回りにあります。

It makes sure discounters are stocked with enough snacks,

人工知能はディスカウントショップが 十分な軽食をストックできるよう手配し、

it serves you up just the right Internet ad, and you may have even read a new story written entirely by a machine.

人工知能は個々に適したネット広告を提供するし、 あなたが読んだ記事の中には一から十まで機械によって書かれたものがあったかもしれません。

Right now we look at chat bots like Siri and laugh at their primitive simulated emotions,

今は私たちがSiriのようなチャットボットを見て それが演じる人格が不完全なのを笑っている段階です。

but it's likely that we will have to deal with beings that make it hard to draw the line

ですが、作られた人格と本物の人格の 境界が曖昧になった場合の

between real and simulated humanity.

対処が必要になることも十分に考えられます

Are there any machines in existence that deserve rights?

現時点で権利を与えるに値する機械はあるのでしょうか？

Most likely, not yet. But if they come, we are not prepared for it.

おそらく、今のところはないでしょう。 しかしそれが存在したとすれば、 私たちの準備が足りていないのも事実です。

Much of the philosophy of rights is ill-equipped to deal with the case of Artificial Intelligence.

哲学における権利の定義では人工知能に対処することはできません。

Most claims for right, with a human or animal, are centered around the question of consciousness.

人間または動物に権利があるという主張の多くは、 意識の有無を前提としています。

Unfortunately, nobody knows what consciousness is.

しかし残念ながら、意識とは何かを知る人はどこにもいません。

Some think that it's immaterial, others say it's a state of matter, like gas or liquid.

ある人はそれが物質的なものではないと考えていますし、 またある人は気体や液体のような物質的なものだと主張しています。

Regardless of the precise definition, we have an intuitive knowledge of consciousness because we experience it.

正確な定義がなんであれ、私たちは意識について直感的に知っています。意識を持つという経験がありますから。

We are aware of ourselves and our surroundings, and know what unconsciousness feels like.

私たちは自分自身とその周りについてを認識しているし、 意識がない状態がどんな感じかも知っています。

Some neuroscientists believe that any sufficiently advanced system can generate consciousness.

一部の神経科学者は、高度なシステムであれば 意識をつくることができると考えています。

So, if your toaster's hardware was powerful enough, it may become self-aware.

そう考えたとすれば、もしもあなたのトースターのハードウェアが十分強力だったなら、自我を持つかもしれません

If it does, would it deserve rights?

そのとき、そのトースターに権を与える必要があるのでしょうか？

Well, not so fast. Would what we define as "rights" make sense to it?

少し結論を急ぎすぎましたね。 ではこの問題を考えるときに、権利をどのように考えたらよいのでしょう？

Consciousness entitles beings to have rights because it gives a being the ability to suffer.

意識を持つものに権利は与えられます。 なぜなら意識を持つものは、苦しむ能力がもつからです

It means the ability to not only feel pain, but to be aware of it.

これは苦痛を感じる能力だけでなく、その苦痛を認識できることも含みます

Robots don't suffer, and they probably won't unless we programmed them to.

ロボットは苦しむことはないし、 我々がそうプログラムしない限りはずっとそうでしょう

Without pain or pleasure, there's no preference, and rights are meaningless.

痛みや喜びがなければ、好みもなく、権利は必要ありません

Our human rights are deeply tied to our own programming, for example we dislike pain

人権は、私たちのからだのプログラムに深く関係しています たとえば私たちは痛みを嫌います

because our brains evolved to keep us alive.

それは、私たちが熱い火に触れないように、 また捕食者から逃げるように

To stop us from touching a hot fire, or to make us run away from predators.

脳が私たちを生きながらえさせるよう進化したからです

So we came up with rights that protect us from infringements that cause us pain.

だから私たちは苦痛をもたらすものから自分を守るために、 「権利」を掲げるようになったのです。

Even more abstract rights like freedom are rooted in the way our brains are wired

自由権のようなさらに抽象的な権利も、 何が公平で何が不公平かを

to detect what is fair and unfair.

感じ取る仕組みを脳が持っているから存在するのです。

Would a toaster that is unable to move, mind being locked in a cage?

そもそも移動することが出来ないトースターが、 檻に閉じ込められていることが嫌だと感じるでしょうか？

Would it mind being dismantled, if it had no fear of death?

死への恐怖が無いとすれば、 分解されることを気にするでしょうか？

Would it mind being insulted, if it had no need for self-esteem?

自尊心が無いとすれば、 侮辱を受けても気にするでしょうか？

But what if we programmed the robot to feel pain and emotions?

しかし一方で、痛みや感情を感じるようにロボットを プログラムした場合はどうなるでしょう？

To prefer justice over injustice, pleasure over pain and be aware of it?

不正よりも正義を好むように、苦痛よりも喜びを好むよう、そしてそれを意識するようにプログラムしたら？

Would that make them sufficiently human?

これは彼らを十分に人間たらしめるでしょうか？

Many technologists believe that an explosion in technology would occur,

多くの技術者は、人工知能が新しい人工知能について

when Artificial Intelligence can learn and create their own Artificial Intelligences,

学習し、自身よりも優秀な人工知能を創造できるようになったとき、

even smarter than themselves.

技術の爆発が起こるだろうと信じています

At this point, the question of how our robots are programmed will be largely out of our control.

この時点で、ロボットがどのようにプログラムされて いるかは、ほとんど人間の手に負えないでしょう

What if an Artificial Intelligence found it necessary to program the ability to feel pain,

痛みを感じる能力はほぼすべての生物にとって必要だと進化生物学が明らかにしたことと同じように、

just as evolutionary biology found it necessary in most living creatures?

痛みをプログラムする必要性を 人工知能が見出したとしたら？

Do robots deserve those rights?

ロボットは権利をもつに値するでしょうか？

But maybe we should be less worried about the risk that super-intelligent robots pose to us,

ですが今は極めて賢いロボットが私たちに もたらすリスクについてはあまり心配せず

and more worried about the danger we pose to them.

私たちが彼らにもたらすリスクを心配すべきなのかもしれません

Our whole human identity is based on the idea of human exceptionalism,

人類のアイデンティティは、 私たちは特別にユニークな雪の結晶であり、

that we are special unique snowflakes, entitled to dominate the natural world.

自然界を統べる権利をもつ例外であるという考えに基づいています

Humans have a history of denying that other beings are capable of suffering as they do.

歴史的に人類は、他の存在が人類同様に苦痛を 感じられることを否定してきました。

In the midst of the Scientific Revolution, René Descartes argued animals were mere automata―robots if you will.

科学革命の真っ只中の時期に、ルネ・デカルトは、動物が 単なる機械人形（ロボットと呼びたければどうぞ）であると主張しました

As such, injuring a rabbit was about as morally repugnant as punching a stuffed animal.

ウサギを傷つけることの非道徳性はぬいぐるみをパンチすることと同レベルというわけです。

And many of the greatest crimes against humanity were justified by their perpetrators

そして人類に対する最大級の罪の多くは 加害者が、

on the grounds that the victims were more animal than civilized human.

「被害者は文明化された人類ではなく 動物に近い」として正当化されてきました

Even more problematic is that we have an economic interest in denying robot rights.

さらに問題なのは、我々がロボットの権利を 否定することで、経済的にメリットがあることです。

If can coerce a sentient AI―possibly through programmed torture―into doing as we please,

意識を持つ人工知能に我々への奉仕を強制出来るとしたら(苦痛をプログラムすることによるかもしれない）

the economic potential is unlimited.

利益を生み出す可能性は大きいでしょう

We've done it before, after all.

それは我々が過去にもやったことでもあります。

Violence has been used to force our fellow humans into working.

人々に労働を強制するために暴力が用いられました

And we've never had trouble coming up with ideological justifications.

そして正当化に苦労したこともなかったのです ＜フキダシ＞神は金が必要だとおっしゃっている

Slave owners argued that slavery benefited the slaves: it put a roof over their head and taught them Christianity.

奴隷の主たちは奴隷制度は奴隷にも 益があると主張しました。彼らは屋根の下に住めるし キリスト教を教えてもらえるのだと。

Men who were against women voting argued that it was in women's own interest to leave the hard decisions to men.

女性の投票権に反対していた男たちは、女性は本当は 難しい判断を男に任せたのだろうと主張しました。

Farmers argue that looking after animals and feeding them justifies their early death for our dietary preferences.

農家は、人の食の好みで動物を若いうちに殺しますが、 餌を与え、面倒を見ることで正当化できると主張しています

If robots become sentient, there will be no shortage of arguments for those who say

ロボットが自我を持った場合、彼らは権利を持たない ままでいるべきだという主張には事欠かないでしょう

that they should remain without rights, especially from those who stand to profit from it.

そのことで利益を得る人からは特に

Artificial Intelligence raises serious questions about philosophical boundaries.

人工知能は、哲学の境界に対して 重大な問題を提起しています

What we may ask if sentient robots are conscious or deserving of rights,

感覚を持つロボットに自我はあるのか、 また権利を持つに値するのか

it forces us to pose basic questions like, what makes us human? What makes us deserving of rights?

また、「私たちは何をもって人間なのか？」 「私たちは何を根拠に権利を有しているのか？」 という根源的な問いを投げかけてきます

Regardless of what we think, the question might need to be resolved in the near future.

私たちがどのように考えるかにかかわらず、この質問を近い将来に解決する必要があるかもしれません

What are we going to do if robots start demanding their own rights?

ロボットが自分の権利を要求し始めたらどうしますか？

What can robots demanding rights teach us about ourselves?

ロボットが権利要求してくることで、 私たちは何に気づかされるのでしょうか？

Our friends at Wisecrack made a video exploring this very question using the philosophy of Westworld.

Wisecrackに務める我々の友人は西洋哲学を駆使して、この疑問を追求する動画を作りました

Wisecrack dissects pop culture in a unique and philosophical way.

Wisecrackはポップカルチャーを ユニークかつ哲学的な方法で解剖します。

Click here to check out the video and subscribe to their channel.

ここをクリックすれば彼らの動画を見て、 チャンネル登録をすることができます