Placeholder Image

字幕表 動画を再生する

  • Imagine a future where your toaster anticipates what kind of toast you want.


  • During the day, it scans the Internet for new and exciting types of toast.


  • Maybe it asks you about your day, and wants to chat about new achievements in toast technology.


  • At what level would it become a person?


  • At which point will you ask yourself if your toaster has feelings?


  • If it did, would unplugging it be murder?


  • And would you still own it? Will we someday be forced to give our machines rights?

    感情を持ってもあなたは所有を続けますか? いずれ私たちは機械に権利を与えざる を得なくなる日が来るのでしょうか??

  • AI is already all around you.


  • It makes sure discounters are stocked with enough snacks,

    人工知能はディスカウントショップが 十分な軽食をストックできるよう手配し、

  • it serves you up just the right Internet ad, and you may have even read a new story written entirely by a machine.

    人工知能は個々に適したネット広告を提供するし、 あなたが読んだ記事の中には一から十まで機械によって書かれたものがあったかもしれません。

  • Right now we look at chat bots like Siri and laugh at their primitive simulated emotions,

    今は私たちがSiriのようなチャットボットを見て それが演じる人格が不完全なのを笑っている段階です。

  • but it's likely that we will have to deal with beings that make it hard to draw the line

    ですが、作られた人格と本物の人格の 境界が曖昧になった場合の

  • between real and simulated humanity.


  • Are there any machines in existence that deserve rights?


  • Most likely, not yet. But if they come, we are not prepared for it.

    おそらく、今のところはないでしょう。 しかしそれが存在したとすれば、 私たちの準備が足りていないのも事実です。

  • Much of the philosophy of rights is ill-equipped to deal with the case of Artificial Intelligence.


  • Most claims for right, with a human or animal, are centered around the question of consciousness.

    人間または動物に権利があるという主張の多くは、 意識の有無を前提としています。

  • Unfortunately, nobody knows what consciousness is.


  • Some think that it's immaterial, others say it's a state of matter, like gas or liquid.

    ある人はそれが物質的なものではないと考えていますし、 またある人は気体や液体のような物質的なものだと主張しています。

  • Regardless of the precise definition, we have an intuitive knowledge of consciousness because we experience it.


  • We are aware of ourselves and our surroundings, and know what unconsciousness feels like.

    私たちは自分自身とその周りについてを認識しているし、 意識がない状態がどんな感じかも知っています。

  • Some neuroscientists believe that any sufficiently advanced system can generate consciousness.

    一部の神経科学者は、高度なシステムであれば 意識をつくることができると考えています。

  • So, if your toaster's hardware was powerful enough, it may become self-aware.


  • If it does, would it deserve rights?


  • Well, not so fast. Would what we define as "rights" make sense to it?

    少し結論を急ぎすぎましたね。 ではこの問題を考えるときに、権利をどのように考えたらよいのでしょう?

  • Consciousness entitles beings to have rights because it gives a being the ability to suffer.

    意識を持つものに権利は与えられます。 なぜなら意識を持つものは、苦しむ能力がもつからです

  • It means the ability to not only feel pain, but to be aware of it.


  • Robots don't suffer, and they probably won't unless we programmed them to.

    ロボットは苦しむことはないし、 我々がそうプログラムしない限りはずっとそうでしょう

  • Without pain or pleasure, there's no preference, and rights are meaningless.


  • Our human rights are deeply tied to our own programming, for example we dislike pain

    人権は、私たちのからだのプログラムに深く関係しています たとえば私たちは痛みを嫌います

  • because our brains evolved to keep us alive.

    それは、私たちが熱い火に触れないように、 また捕食者から逃げるように

  • To stop us from touching a hot fire, or to make us run away from predators.


  • So we came up with rights that protect us from infringements that cause us pain.

    だから私たちは苦痛をもたらすものから自分を守るために、 「権利」を掲げるようになったのです。

  • Even more abstract rights like freedom are rooted in the way our brains are wired

    自由権のようなさらに抽象的な権利も、 何が公平で何が不公平かを

  • to detect what is fair and unfair.


  • Would a toaster that is unable to move, mind being locked in a cage?

    そもそも移動することが出来ないトースターが、 檻に閉じ込められていることが嫌だと感じるでしょうか?

  • Would it mind being dismantled, if it had no fear of death?

    死への恐怖が無いとすれば、 分解されることを気にするでしょうか?

  • Would it mind being insulted, if it had no need for self-esteem?

    自尊心が無いとすれば、 侮辱を受けても気にするでしょうか?

  • But what if we programmed the robot to feel pain and emotions?

    しかし一方で、痛みや感情を感じるようにロボットを プログラムした場合はどうなるでしょう?

  • To prefer justice over injustice, pleasure over pain and be aware of it?


  • Would that make them sufficiently human?


  • Many technologists believe that an explosion in technology would occur,


  • when Artificial Intelligence can learn and create their own Artificial Intelligences,


  • even smarter than themselves.


  • At this point, the question of how our robots are programmed will be largely out of our control.

    この時点で、ロボットがどのようにプログラムされて いるかは、ほとんど人間の手に負えないでしょう

  • What if an Artificial Intelligence found it necessary to program the ability to feel pain,


  • just as evolutionary biology found it necessary in most living creatures?

    痛みをプログラムする必要性を 人工知能が見出したとしたら?

  • Do robots deserve those rights?


  • But maybe we should be less worried about the risk that super-intelligent robots pose to us,

    ですが今は極めて賢いロボットが私たちに もたらすリスクについてはあまり心配せず

  • and more worried about the danger we pose to them.


  • Our whole human identity is based on the idea of human exceptionalism,

    人類のアイデンティティは、 私たちは特別にユニークな雪の結晶であり、

  • that we are special unique snowflakes, entitled to dominate the natural world.


  • Humans have a history of denying that other beings are capable of suffering as they do.

    歴史的に人類は、他の存在が人類同様に苦痛を 感じられることを否定してきました。

  • In the midst of the Scientific Revolution, René Descartes argued animals were mere automatarobots if you will.

    科学革命の真っ只中の時期に、ルネ・デカルトは、動物が 単なる機械人形(ロボットと呼びたければどうぞ)であると主張しました

  • As such, injuring a rabbit was about as morally repugnant as punching a stuffed animal.


  • And many of the greatest crimes against humanity were justified by their perpetrators

    そして人類に対する最大級の罪の多くは 加害者が、

  • on the grounds that the victims were more animal than civilized human.

    「被害者は文明化された人類ではなく 動物に近い」として正当化されてきました

  • Even more problematic is that we have an economic interest in denying robot rights.

    さらに問題なのは、我々がロボットの権利を 否定することで、経済的にメリットがあることです。

  • If can coerce a sentient AIpossibly through programmed tortureinto doing as we please,


  • the economic potential is unlimited.


  • We've done it before, after all.


  • Violence has been used to force our fellow humans into working.


  • And we've never had trouble coming up with ideological justifications.

    そして正当化に苦労したこともなかったのです <フキダシ>神は金が必要だとおっしゃっている

  • Slave owners argued that slavery benefited the slaves: it put a roof over their head and taught them Christianity.

    奴隷の主たちは奴隷制度は奴隷にも 益があると主張しました。彼らは屋根の下に住めるし キリスト教を教えてもらえるのだと。

  • Men who were against women voting argued that it was in women's own interest to leave the hard decisions to men.

    女性の投票権に反対していた男たちは、女性は本当は 難しい判断を男に任せたのだろうと主張しました。

  • Farmers argue that looking after animals and feeding them justifies their early death for our dietary preferences.

    農家は、人の食の好みで動物を若いうちに殺しますが、 餌を与え、面倒を見ることで正当化できると主張しています

  • If robots become sentient, there will be no shortage of arguments for those who say

    ロボットが自我を持った場合、彼らは権利を持たない ままでいるべきだという主張には事欠かないでしょう

  • that they should remain without rights, especially from those who stand to profit from it.


  • Artificial Intelligence raises serious questions about philosophical boundaries.

    人工知能は、哲学の境界に対して 重大な問題を提起しています

  • What we may ask if sentient robots are conscious or deserving of rights,

    感覚を持つロボットに自我はあるのか、 また権利を持つに値するのか

  • it forces us to pose basic questions like, what makes us human? What makes us deserving of rights?

    また、「私たちは何をもって人間なのか?」 「私たちは何を根拠に権利を有しているのか?」 という根源的な問いを投げかけてきます

  • Regardless of what we think, the question might need to be resolved in the near future.


  • What are we going to do if robots start demanding their own rights?


  • What can robots demanding rights teach us about ourselves?

    ロボットが権利要求してくることで、 私たちは何に気づかされるのでしょうか?

  • Our friends at Wisecrack made a video exploring this very question using the philosophy of Westworld.


  • Wisecrack dissects pop culture in a unique and philosophical way.

    Wisecrackはポップカルチャーを ユニークかつ哲学的な方法で解剖します。

  • Click here to check out the video and subscribe to their channel.

    ここをクリックすれば彼らの動画を見て、 チャンネル登録をすることができます

Imagine a future where your toaster anticipates what kind of toast you want.



動画の操作 ここで「動画」の調整と「字幕」の表示を設定することができます

B1 中級 日本語 権利 ロボット トースター 人工 意識 苦痛

ロボットに権利はあるのか?機械が意識を持つようになったら? (Do Robots Deserve Rights? What if Machines Become Conscious?)

  • 394 35
    汪摳 に公開 2021 年 01 月 14 日