Name: ピーター・シンガーAIが意識を持つようになる準備はできているか？ (Peter Singer: Are we prepared for AI to become conscious?)
Uploaded: 2025-06-17T16:37:15.000Z
Duration: 4 min 28 s
Description: VoiceTubeの動画で発音を聞きながら英語表現を覚えよう！学べる英語：

to 不定詞

As we continue to develop AI, and particularly as we develop artificial general intelligence,

AIの開発が進むにつれ、特に人工知能の開発が進むにつれ、

未来形

I think it's quite likely that at some point we will create a conscious being.

いつかは意識のある存在が誕生する可能性は高いと思う。

それがいつになるかは分からない。

But, uh, I don't see any reason in principle why if we can have consciousness in a biological carbon-based life form, like I am, which has developed a brain and neurons, I don't see any in principle reason why you couldn't get something similar happening in something that isn't a carbon-based life form but is, um, made of of silicon chips.

しかし、私のように脳と神経細胞を発達させた生物学的な炭素ベースの生命体で意識を持つことができるのなら、炭素ベースの生命体ではなく、シリコンチップでできたものでも同じようなことが起こせないという原理的な理由は見当たらない。

And if we do that, we will have created an artificial conscious being.

そうすれば、人工的な意識的存在を作り出すことになる。

Of course, we've already created vast numbers of conscious beings.

もちろん、私たちはすでに膨大な数の意識ある存在を生み出している。

We're creating animals, uh, all the time, um, and we vary them in their nature by breeding.

私たちは常に動物を創造し、繁殖によってその性質を変化させている。

So it's not the first time we've created conscious beings, but it's the first time we've created, uh, an artificial conscious being.

だから、意識のある存在を作ったのは初めてではないが、人工的な意識のある存在を作ったのは初めてだ。

Non-human conscious beings we've created who basically we have mostly exploited for our particular purposes.

私たちが創造した人間以外の意識ある生き物は、基本的に私たちの特定の目的のために搾取されてきた。

As using them for labor like horses and oxen.

馬や牛のように労働に使うように。

Um, or, uh, rearing them for food like, uh, cows and pigs and chickens.

あるいは、牛や豚や鶏のように、食用として飼育する。

And, uh, fish now we're rearing in large numbers.

そして今、魚は大量に飼育されている。

だから、そうなる危険性がある。

But I'm hopeful that we will realize if we do create conscious AI, that, um, that conscious being has interests, an interest in not feeling pain, an interest in enjoying their life once you have consciousness, and it would be wrong to disregard the interests of that conscious being, um, and simply to treat it as another tool or another slave.

しかし、もし意識のあるAIを作ったとしたら、その意識のある存在には利益があり、痛みを感じないことに関心があり、意識を持ったら自分の人生を楽しむことに関心がある。

Now, it's possible that we'll realize as we get close to creating this conscious being that, uh, we would then have to give it rights and would not be able to use it in some way.

意識的な存在を創り出そうとしているうちに、その意識的な存在に権利を与えなければならなくなり、その意識的な存在を何らかの形で使うことができなくなることに気づくかもしれない。

And we might perhaps halt what we're doing at that point just below the level of consciousness, or maybe at a very dull level of consciousness where the AI is not really experiencing pleasure or pain because it's not capable of that, it's just got some sort of more neutral sort of bar state of consciousness if you like.

意識レベルのすぐ下、あるいは非常に鈍い意識レベルで、AIは快楽や苦痛を経験していない。

Uh, that's possible, and then maybe it wouldn't really have interests we have to worry about.

ああ、それはあり得るし、そうすれば我々が心配するような利害関係もなくなるかもしれない。

But, um, I certainly think that if we did create beings that were more like non-human animals, we ought to treat them much better than we now treat non-human animals, and of course, I also think we ought to change the treatment of non-human animals in order to do that.

しかし、もし私たちが人間以外の動物に近い存在を創り出したとしたら、私たちはその動物たちを、今私たちが人間以外の動物を扱っているよりもずっと良く扱うべきだと思うし、もちろん、そのためには人間以外の動物の扱いを変えるべきだとも思う。

The question of of how we treat sentient AI is going to be one both for everybody as individuals, just as the question of how we treat animals is one for people as individuals, um, are we going to want to have a companion animal, a dog or a cat, um, and treat them well?

感覚を持ったAIをどのように扱うかという問題は、動物をどのように扱うかという問題が個人としての人間にとっての問題であるように、個人としてのすべての人にとっての問題になるだろう。

Are we going to buy products from factory farms, which means we're supporting cruelty, those are individual questions, but there are also national government policy issues.

それは残酷な行為を支援することになる。

And just as I believe, um, governments should set standards for animal welfare, they should, uh, not permit the treatment of animals in the way they're now treated in in factory farms.

そして私は、政府は動物福祉の基準を定めるべきであり、現在のような工場農場での動物の扱いを許すべきではないと考えている。

So I would think governments will need to set standards for, uh, the treatment of sentient conscious AI once we get to that point.

そうなれば、政府は意識あるAIの扱いについて基準を設ける必要があるだろう。

And, uh, you know, it'll be a novel question, maybe they'll set up committees of experts, I can imagine committees which consist of people who are expert in the AI and in, uh, the nature of the AI.

AIやAIの性質に詳しい人たちで構成される委員会を立ち上げるかもしれない。

knowledgeable about consciousness itself in those sciences, neurosciences is relevant to that.

そのような科学、神経科学における意識そのものについての知識は、それに関連している。

But also to have, uh, philosophers along and, uh, uh, lawyers perhaps to help crafting policies and frameworks for this.

しかし、哲学者や弁護士も一緒に、このための政策や枠組みを作る手助けをしてくれるだろう。

Um, so I I think it will be an interesting task for, uh, who knows when, maybe the the middle of the 21st century, uh, there might be committees doing this.

だから、21世紀の中頃には、これをやっている委員会ができるかもしれない。

チャンネルをサポートしたいですか？

Join the Big Think members community where you get access to videos early, ad free.

ビッグ・シンクのメンバー・コミュニティに参加すれば、広告なしでいち早くビデオにアクセスできます。