Name: ムスタファ・スレイマン×ユヴァル・ノア・ハラリ -FULL DEBATE- AI革命は私たちの未来に何をもたらすのか？ (Mustafa Suleyman & Yuval Noah Harari -FULL DEBATE- What does the AI revolution mean for our future?)
Uploaded: 2025-02-10T09:40:43.000Z
Duration: 46 min 17 s
Description: VoiceTubeの動画で発音を聞きながら英語表現を覚えよう！学べる英語：

様態の副詞

Historian Yuval Noah Harari and entrepreneur Mustafa Suleiman are two of the most important voices in the increasingly contentious debate over AI.

歴史家のユヴァル・ノア・ハラリと起業家のムスタファ・スレイマンは、AIをめぐる論争が激化している中で最も重要な声の2人である。

お招きいただきありがとうございます。

The economists got them together to discuss what this technology means for our future, from employment and geopolitics to the survival of liberal democracy.

エコノミストたちは、雇用や地政学から自由民主主義の存続に至るまで、このテクノロジーが私たちの未来にとって何を意味するのかを議論するために彼らを集めた。

If the economic system is fundamentally changed, will liberal democracy as we know it survive?

経済システムが根本的に変われば、我々が知っているような自由民主主義は存続するのだろうか？

ユヴァル・ノア・ハラリ、ようこそ。

You are a bestselling author, historian, I think a global public intellectual, if not the global public intellectual.

あなたはベストセラー作家であり、歴史家であり、世界的な知識人、いや世界的な知識人であると思う。

Your books from Sapiens to 21 Lessons from the 21st Century have sold huge numbers of copies around the world.

サピエンス』から『21世紀からの21の教訓』まで、あなたの著書は世界中で膨大な部数を売り上げました。

ご参加ありがとうございます。

Mustafa Suleiman, wonderful that you can join us too.

ムスタファ・スレイマン、あなたも参加できるなんて素晴らしい。

You're a friend of The Economist, a fellow director on The Economist board.

あなたはエコノミスト誌の友人であり、エコノミスト誌の取締役仲間です。

You are a man at the cutting edge of creating the AI revolution.

あなたはAI革命を起こす最先端にいる人だ。

あなたはディープマインドの共同設立者です。

You're now a co-founder and CEO of Inflection AI.

あなたは現在、Inflection AIの共同設立者兼CEOです。

You are building this future, but you've also just published a book called The Coming Wave, which makes us a little concerned about this revolution that is being unleashed.

あなたはこのような未来を築こうとしているが、『来るべき波』という本も出版したばかりで、私たちはこの革命が解き放たれることを少し心配している。

You're both coming from different backgrounds.

2人とも異なるバックグラウンドを持っている。

You are a historian, a commenter, a man who I believe doesn't use smartphones very much.

あなたは歴史家であり、コメンテーターであり、スマートフォンをあまり使わない人だと思う。

Mustafa, as I know from our board meetings, is right at the cutting edge of this, pushing everyone to go faster.

ムスタファは、私たちの理事会で知っているように、この最先端にいて、皆をより速くするよう後押ししている。

So, two very different perspectives, but I thought it would be really interesting to bring the two of you together to have a conversation about what is happening, what is going to happen, what are the opportunities, but also what is at stake and what are the risks.

そこで、お二人をお招きして、何が起きているのか、何が起きようとしているのか、何がチャンスなのか、そして何が問題なのか、何がリスクなのかについて話し合ってもらえたらと思ったのです。

では、ムスタファ、君から始めよう。

そして、あなた方がこの未来を築いている。

So, paint us a picture of what the future is going to be like.

では、未来がどうなるかを描いてください。

And I'm going to give you a timeframe to keep it specific.

そして、具体的にするために時間枠を与えるつもりだ。

So, let's say, I think you wrote in your book that within three to five years that you thought it was plausible that AIs could have human-level capability across a whole range of things.

例えば、あなたは著書の中で、3年から5年以内にAIがあらゆる物事において人間レベルの能力を持つようになる可能性があると書いていたと思います。

では、5年後の2028年を考えてみよう。

世界はどのように見えるのか？

私はどのようにAIと交流するのか？

我々は何をし、何をしないのか？

Well, let's just look back over the last 10 years to get a sense of the trajectory that we're on and the incredible momentum that I think everybody can now see with the generative AI revolution.

さて、過去10年間を振り返って、私たちが歩んできた軌跡と、ジェネレーティブAI革命の驚くべき勢いを感じてみましょう。

Over the last 10 years, we've become very, very good at classifying information.

この10年間で、私たちは情報を分類するのがとてもとても上手になった。

We can understand it, we sort it, label it, organize it, and that classification has been critical to enabling this next wave because we can now read the content of images.

私たちはそれを理解し、分類し、ラベルを付け、整理することができる。そして、その分類は、画像の内容を読み取ることができるようになったため、この次の波を可能にするために非常に重要である。

私たちはテキストをかなり理解できる。

We can classify audio and transcribe it into text.

音声を分類し、テキストに書き起こすことができる。

The machines can now have a pretty good sense of the conceptual representations in those ideas.

機械は、それらのアイデアに含まれる概念的な表現について、かなり良い感覚を持つことができるようになった。

The next phase of that is what we're seeing now with the generative AI revolution.

その次の段階が、今私たちが目にしているジェネレーティブAI革命である。

We can now produce new images, new videos, new audio, and, of course, new language.

新しいイメージ、新しいビデオ、新しいオーディオ、そしてもちろん新しい言語を生み出すことができるようになった。

And in the last year or so, with the rise of chat GPT and other AI models, it's pretty incredible to see how plausible and accurate and very finessed to these new language models are.

そして去年あたりから、チャットGPTやその他のAIモデルが台頭してきて、これらの新しい言語モデルがいかにもっともらしく、正確で、非常に精巧なものであるかを目の当たりにするのは、とても信じられないことだ。

In the next five years, the frontier model companies, those of us at the very cutting edge who are training the very largest AI models, are going to train models that are over 1,000 times larger than what you currently see today in GPT-4.

今後5年間で、フロンティア・モデル企業、つまり、非常に大規模なAIモデルをトレーニングしている最先端にいる私たちは、GPT-4で現在見られるものより1000倍以上大きなモデルをトレーニングすることになるだろう。

And with each new order of magnitude and compute, that is 10x more compute used, we tend to see really new capabilities emerge.

そして、新しい桁のコンピュート、つまり10倍のコンピュートが使われるようになるごとに、本当に新しい能力が出現する傾向がある。

And we predict that the new capabilities that will come this time, over the next five years, will be the ability to plan over multiple time horizons.

そして私たちは、今後5年間で新たに生まれる能力として、複数の時間軸でのプランニングが可能になると予測している。

Instead of just generate new text in a one shot, the model will be able to generate a sequence of actions over time.

新しいテキストを一発で生成するのではなく、このモデルは時間をかけて一連のアクションを生成できるようになる。

And I think that that's really the character of AI that we'll see in the next five years.

そしてそれが、今後5年間で我々が目にすることになるAIの本当の姿だと思う。

Artificial capable AIs, AIs that can't just say things, they can also do things.

人工的な能力を持つAI、物事を言うだけでなく、何かをすることもできるAI。

What does that actually mean in practice?

Tell me what my life will be like in 2028.

2028年の私の人生を教えてください。

どのように彼らと接するのか？

I've actually proposed a modern Turing test, which tries to evaluate for exactly this point.

私は実際に、まさにこの点を評価しようとする現代のチューリングテストを提案したことがある。

The last Turing test simply evaluated for what a machine could say, assuming that what it could say represented its intelligence.

最後のチューリングテストは、機械が何を言うことができるかを単純に評価し、その機械が言うことができることがその機械の知性を表していると仮定した。

Now that we're kind of approaching that moment where these AI models are pretty good, arguably they've passed the Turing test, or maybe they will in the next few years.

今、我々はこれらのAIモデルがかなり優秀で、間違いなくチューリング・テストに合格した、あるいは今後数年のうちに合格するだろうという瞬間に近づいている。

The real question is, how can we measure what they can do?

本当の問題は、彼らができることをどうやって測定するかということだ。

So I've proposed a test which involves them going off and taking a $100,000 investment, and over the course of three months, trying to set about creating a new product, researching the market, seeing what consumers might like, generating some new images, some blueprints of how to manufacture that product, contacting a manufacturer, getting it made, negotiating the price, drop shipping it, and then ultimately collecting the revenue.

そこで私が提案したテストは、10万ドルの投資を受け、3カ月かけて新商品を作り、市場を調査し、消費者が好みそうなものを見極め、新しいイメージとその商品の製造方法の設計図を作成し、メーカーに連絡し、製造してもらい、価格交渉し、ドロップシッピングし、最終的に収益を回収するというものだ。

And I think that over a five-year period, it's quite likely that we will have an ACI, an artificial capable intelligence, that can do the majority of that task autonomously.

そして5年後には、ACI（人工知能）がそのタスクの大半を自律的にこなせるようになる可能性が高いと思う。

It won't be able to do the whole thing, there are many tricky steps along the way, but significant portions of that.

全部をこなすことはできないだろうし、途中には厄介なステップがたくさんあるが、そのかなりの部分をこなすことはできる。

It will be able to make phone calls to other humans to negotiate.

他の人間に電話をかけて交渉することもできるだろう。

It will be able to call other AIs in order to establish the right sequence in a supply chain, for example.

例えば、サプライチェーンにおける正しい順序を確立するために、他のAIを呼び出すことができるようになる。

And of course, it will learn to use APIs, Application Programming Interfaces, so other websites or other knowledge bases or other information stores.

もちろん、API（アプリケーション・プログラミング・インターフェース）を使うことも学ぶだろう。

And so, you know, the world is your oyster.

だから、世界はあなたのものなんだ。

You can imagine that being applied to many, many different parts of our economy.

それが経済のさまざまな部分に適用されることは想像に難くない。

So Yuval, a man who doesn't use a smartphone very much, you listen to this, does it fill you with horror, and do you agree with it?

スマートフォンをあまり使わないユヴァルは、これを聞いて恐怖を感じ、同意するのか？

Do you think that's the kind of thing that is likely to happen in the next five years?

今後5年間にそういうことが起こりそうだと思いますか？

私なら、とても深刻に受け止めるだろう。

I'm not coming from within the industry, so I cannot comment on how likely it is to happen.

私は業界内の人間ではないので、その可能性についてコメントすることはできない。

But when I hear this as a historian, for me, what we just heard, this is the end of human history.

しかし、歴史家としてこれを聞くとき、私にとっては、今聞いたことは人類の歴史の終わりである。

Not the end of history, the end of human-dominated history.

歴史の終わりではなく、人間が支配する歴史の終わりである。

History will continue with somebody else in control.

歴史は他の誰かが支配することで続いていく。

Because what we just heard is basically Mustafa telling us that in five years, there'll be a technology that can make decisions independently and that can create new ideas independently.

というのも、私たちが今聞いたのは、基本的にムスタファが5年後には独立して意思決定ができ、独立して新しいアイデアを生み出すことができるテクノロジーが登場するという話だからだ。

This is the first time in history we confronted something like this.

このような事態に直面したのは歴史上初めてのことだ。

Every previous technology in history, from a stone knife to nuclear bombs, it could not make decisions, like the decision to drop the bomb on Hiroshima was not made by the atom bomb.

広島への原爆投下が原子爆弾によって決定されなかったように。

トルーマン大統領によるものだ。

And similarly, every previous technology in history, it could only replicate our ideas.

同様に、歴史上のあらゆる技術は、私たちのアイデアを複製することしかできなかった。

Like radio or the printing press, it could make copies and disseminate the music or the poems or the novels that some human wrote.

ラジオや印刷機のように、ある人間が書いた音楽や詩や小説をコピーして広めることができる。

Now we have a technology that can create completely new ideas.

今、私たちはまったく新しいアイデアを生み出すことができる技術を持っている。

And it can do it at a scale far beyond what humans are capable of.

しかも、人間の能力をはるかに超えたスケールでそれが可能なのだ。

So it can create new ideas and in important areas within five years, we'll be able to enact them.

だから、新しいアイデアを生み出し、重要な分野では5年以内にそれを実現することができる。

Before we go on to the many ways in which this could be the end of human history, as you put it, and the potential downsides and risks of this, can we just for a second, just indulge me?

あなたがおっしゃるように、これが人類史の終わりとなる可能性のあるさまざまな方法や、その潜在的なマイナス面やリスクについて話を進める前に、ちょっとだけ、私を甘やかしてもらえませんか？

可能性について話しませんか？

これにはどのような利点があるのでしょうか？

Because there are many, and they are really substantial.

たくさんあるし、本当に充実しているからだ。

I think you wrote that there is the potential that this technology can help us deal with incredibly difficult problems and create tremendously positive outcomes.

あなたは、このテクノロジーが信じられないほど難しい問題に対処し、とてつもなくポジティブな結果を生み出す手助けになる可能性があると書いたと思う。

So can we just briefly start with that before we go down the road of the terrible things?

だから、ひどいことを言う前に、そのことから簡単に始めてもいいかな？

When I say the end of human history, again, I'm not talking necessarily about the destruction of humankind or anything like that.

人類の歴史が終わると言っても、必ずしも人類が滅亡するとかそういう話ではない。

ポジティブな可能性はたくさんある。

It's just that control, power, is shifting away from human beings to an alien intelligence, to a non-human intelligence.

ただ、コントロールやパワーが、人間から異星人の知性、人間ではない知性へと移行しているだけなのだ。

We'll also get to that because there's a question of how much power, but let's stick with the potential upsides first.

どれだけのパワーがあるかという問題もあるので、その点にも触れることにするが、まずは潜在的なプラス面について話そう。

チャンスは苦しまなければならない。

Everything that we have created in human history is a product of our intelligence.

人類の歴史において私たちが創造したものはすべて、私たちの知性の産物である。

Our ability to make predictions and then intervene on those predictions to change the course of the world is, in a very abstract way, the way we have produced our companies and our products and all the value that has changed our century.

予測を立て、その予測に介入して世界の流れを変えるという我々の能力は、非常に抽象的な言い方をすれば、我々の企業や製品、そして我々の世紀を変えたすべての価値を生み出す方法なのだ。

If you think about it, just a century ago, a kilo of grain would have taken 50 times more labor to produce than it does today.

考えてみれば、ほんの100年前なら、1キロの穀物を生産するのに、現在の50倍の労力が必要だったはずだ。

That efficiency, which is the trajectory you've seen in agriculture, is likely to be the same trajectory that we will see in intelligence.

その効率性は、あなたが農業で見てきた軌跡であり、インテリジェンスでも同じ軌跡をたどるだろう。

Everything around us is a product of intelligence, and so everything that we touch with these new tools is likely to produce far more value than we've ever seen before.

私たちの身の回りにあるものはすべてインテリジェンスの産物であり、私たちがこの新しいツールで触れるものはすべて、これまでとは比べものにならないほどの価値を生み出す可能性がある。

I think it's important to say these are not autonomous tools by default.

これらはデフォルトで自律的なツールではないと言っておくことが重要だと思う。

ムスタファ・スレイマン×ユヴァル・ノア・ハラリ -FULL DEBATE- AI革命は私たちの未来に何をもたらすのか？ (Mustafa Suleyman & Yuval Noah Harari -FULL DEBATE- What does the AI revolution mean for our future?)

字幕リスト動画再生

ムスタファ・スレイマン×ユヴァル・ノア・ハラリ -FULL DEBATE- AI革命は私たちの未来に何をもたらすのか？ (Mustafa Suleyman & Yuval Noah Harari -FULL DEBATE- What does the AI revolution mean for our future?)

potential

incredibly

significant

process