Let's just say that the total sort of compute capacity of all GPUs in the world today is X.

現在、世界中にあるGPUの総計算能力をXとしましょう。

What do you think, what do you think, what multiple of X will we be at in five years?

5年後にXの何倍になっていると思う？

First of all, you know that I'm going to regret saying this.

まず第一に、こんなことを言うと後悔することは分かっているだろう。

And this is, I'm a public company, you crazy person.

私は上場企業なんだ。

See this is, here's, this is, how nice is it to be private? Safe to say considerably more?

これが、これが、これが、プライベートになることがどれほど素晴らしいことか？ かなり多いと言っていいか？

Well let's reason about it, shall we?

それについて理屈をつけようじゃないか。

Okay so let's reason about it, let's reason our way through, okay?

それじゃ、理屈をこねて、理屈をこねくりまわそう、いいね？

So first of all, it goes like this.

まず、こんな感じだ。

The world has installed about a trillion dollars worth of data centers.

世界には約1兆ドル相当のデータセンターが設置されている。

Those trillion dollars worth of data centers use as general purpose computing.

兆ドル相当のデータセンターは、汎用コンピューティングとして使用されている。

General purpose computing is run as course.

汎用のコンピューティングはコースとして運営されている。

We cannot continue to process that way.

そのような処理を続けることはできない。

And so the world is going to accelerate everything.

そして、世界はすべてを加速させようとしている。

Data processing, you name it, okay?

データ処理、何でもありだ。

And so we're going to accelerate everything.

だから、すべてを加速させるつもりだ。

When we accelerate everything, every single data center, every single computer will be an accelerated server.

すべてをアクセラレートすれば、すべてのデータセンター、すべてのコンピューターがアクセラレートされたサーバーになる。

Well there's about a trillion dollars worth of computers if we don't grow at all over the next, call it four years that we have to go replace.

この先4年間、私たちがまったく成長しなければ、1兆ドル相当のコンピュータを交換しなければならない。

Four years, six years, pick your number of years.

4年でも6年でも、お好きな年数を選んでください。

But if the computer industry continues to grow at some 20% or so, we'll probably have to replace over the course of next, you know, pick your number of years, about two trillion dollars worth of computers with accelerated computing.

しかし、コンピューター産業がこのまま20％ほど成長し続ければ、おそらく今後何年間で2兆ドル相当のコンピューターをアクセラレーション・コンピューティングに置き換えなければならなくなるだろう。

So just make that GPUs, okay?

だからGPUにしてくれ、いいね？

That's number one.

それがナンバーワンだ。

And this is the second part, this is the reason why all of you, Stripe, you're onto something just absolutely monumental.

そしてこれが第二部で、ストライプのみなさんが、非常に重要なことに取り組んでいる理由です。

This idea, this idea called, you know, you've heard me say an industrial revolution.

この考え方は、産業革命と呼ばれるものだ。

Let me tell you why.

その理由を説明しよう。

We are producing something for the very first time that has never been produced before.

私たちは、これまでにない初めてのものをプロデュースしている。

And we're producing it in extremely high volume.

そして我々はそれを極めて大量に生産している。

And the production of this thing requires a new instrument that never existed before.

そして、その製造には、これまで存在しなかった新しい楽器が必要なのだ。

It's a GPU.

GPUだ。

And the thing that we're producing for the very first time, for the mathematicians and all the computer scientists in the room, for all of you, you know that we're producing tokens.

数学者やコンピュータ科学者の皆さん、そして会場にいる皆さん、トークンを作っていることはご存知でしょう。

We're producing floating point numbers at high volume for the first time in history.

我々は史上初めて浮動小数点数を大量生産している。

And the floating point numbers have value.

そして浮動小数点数には価値がある。

The reason why they have value is because it's intelligence.

彼らに価値があるのは、それがインテリジェンスだからだ。

It's artificial intelligence.

人工知能だ。

You can take these floating point numbers, you reformulate it in such a way that it turns into English, French, proteins, chemicals, graphics, images, videos, robotic articulation, steering wheel articulation.

これらの浮動小数点数を、英語、フランス語、タンパク質、化学物質、グラフィック、画像、ビデオ、ロボット関節、ハンドル関節に変換するような方法で再定式化することができる。

We're producing tokens at extraordinary scale.

私たちは並外れた規模でトークンを生産している。

Now we've discovered a way through all of the work that we do with artificial intelligence to produce tokens of almost any kind.

今、私たちは人工知能を使ったあらゆる作業を通じて、ほとんどあらゆる種類のトークンを製造する方法を発見した。

So now the world is going to produce an enormous amount of tokens.

だから今、世界は膨大な量のトークンを生産しようとしている。

Now these tokens are going to be produced in new types of data centers.

これらのトークンは、新しいタイプのデータセンターで生産されることになる。

We call them AI factories.

私たちはそれをAI工場と呼んでいる。

Back in the last industrial revolution, water comes into a machine.

最後の産業革命の頃、水は機械に入ってきた。

You light the water on fire, turn it into steam, and then it turns into electrons.

水に火をつけて蒸気にし、電子に変える。

Atoms come in, electrons go out.

原子が入ってきて、電子が出ていく。

In this new industrial revolution, electrons come in and floating point numbers come out.

この新しい産業革命では、電子が入ってきて、浮動小数点数が出てくる。

And just like the last industrial revolution, nobody understood why this electricity is so valuable and is now sold, marketed, kilowatt hours per dollar.

そして先の産業革命と同じように、なぜこの電気がこれほど価値があるのか、誰も理解していなかった。

And so now we have a million tokens per dollar.

そして今、1ドルあたり100万トークンを手に入れた。

And so that same logic is as incomprehensible to a lot of people as the last industrial revolution, but it's going to be completely normal in the next 10 years.

そして、その同じロジックは、前回の産業革命と同じように多くの人々には理解できないものだが、今後10年以内には完全に普通のことになるだろう。

Well, these tokens are going to create new products, new services, enhance productivity on a whole slew of industries, $100 trillion worth of industries on top of us.

これらのトークンは、新製品や新サービスを生み出し、多くの産業の生産性を向上させる。

And so this industry is going to be gigantic.

だから、この業界は巨大になるだろう。

And in order to monetize that, transact that, you're going to need Stripe.

そして、それを収益化し、取引するためには、Stripeが必要になる。

And so...

それで...

I got to tell you, this is one of my favorite companies.

言っておくけど、この会社は僕の大好きな会社のひとつなんだ。

The first time I met Patrick, he had to explain Stripe to me.

初めてパトリックに会ったとき、彼は私にストライプについて説明しなければならなかった。

I was...

私は...

First of all, it was so complicated.

まず、とても複雑だった。

Because it's a complicated...

それは複雑だからだ...

We tried to refine the descriptions over time, but you had an early version.

私たちは時間をかけて説明を洗練させようとしたが、あなたは初期のバージョンを持っていた。

No, no.

いや、違う。

First of all, you're in a complicated business no matter what.

まず第一に、あなたはどうしたって複雑なビジネスをしている。

But nonetheless, I was so inspired by it.

それにもかかわらず、私はとても刺激を受けた。

It's incredible what you guys have built.

君たちが築き上げたものは信じられないほどだ。

Are we going to get you migrated to Stripe billing now that we have usage-based billing?

Stripeの利用課金に移行する予定はありますか？

I wish I had a business that required billing.

請求書の発行が必要なビジネスをやってみたかった。

I think your public filing suggests you're doing a lot of billing.

あなたの公開申告を見る限り、多くの請求をしていると思う。

We'll follow up on it.

我々はそれをフォローアップする

All right, so...

わかった、それで...

It's only 10 transactions, just so you know.

たった10回の取引だよ。

Your economics serving us is like nothing.

私たちに奉仕するあなた方の経済学は、何もないようなものだ。

It's like 10 transactions.

取引は10回くらいかな。

We'd happily take the 2.9%, but...

2.9%なら喜んで取るが...。

We can discuss that separately.

それについては、また別途話し合おう。

So...

だから...

Done.

完了した。

Thinking about this token...

このトークンについて考えてみると...。

You can't say that.

そんなことは言ってはいけない。

You're a public company.

あなたは上場企業だ。

So thinking about these token factories, I feel like a big question right now is whether the models saturate.

このトークン・ファクトリーについて考えると、モデルが飽和するかどうかが大きな問題のような気がする。

In the sense that we demoed the Sigma Assistant on stage earlier, and you can write some natural language, and we convert that to SQL.

先ほどステージでシグマ・アシスタントのデモをしましたが、自然言語を書くことができ、それをSQLに変換します。

And going from a 7 billion parameter model to a 70 billion parameter model or something like that, there might be a significant kind of consequential improvement in query accuracy for the user for the typical kinds of queries that people tend to construct.

そして、70億のパラメータ・モデルから700億のパラメータ・モデル、あるいはそのようなモデルへ移行することで、人々が構築しがちな典型的な種類のクエリにおいて、ユーザーにとってのクエリ精度が結果的に大幅に向上する可能性がある。

But maybe going to a model that's 10x larger than that is sort of unnecessary.

でも、その10倍の大きさのモデルにするのは、ある意味不必要なのかもしれない。

At some point, you get to good enough, you can reliably convert the natural language to SQL.

ある時点で、十分なレベルに達すると、自然言語を確実にSQLに変換できるようになる。

I think there's a question for the use cases for which LLMs are being deployed.

LLMが導入されるユースケースには疑問があると思う。

What does that saturation curve look like?

その飽和曲線はどのように見えるか？

And for how many use cases does one need a trillion parameter model or a 10 trillion parameter model?

そして、どれだけのユースケースに対して、1兆個のパラメーターモデルや10兆個のパラメーターモデルが必要なのだろうか？

Or do we simply reach a point where some number that is, say, less than 100 billion is sufficient?

それとも、例えば1,000億より少ない数字で十分だということになるのだろうか？

Do you have any point of view on that?

それについて何か意見はありますか？

Or is that even a reasonable way to look at the question in the first place?

あるいは、そもそもその質問の見方は妥当なのだろうか？

Okay.

オーケー。

Let's break it down.

それを分解してみよう。

Let's reason about it.

理性的に考えよう。

In public.

公の場で

Almost everything.

ほとんどすべてだ。

Every question I get.

あらゆる質問を受ける。

Okay.

オーケー。

Let's break it down.

それを分解してみよう。

Let's reason about it.

理性的に考えよう。

So let's start with an example.

では、例から始めよう。

In 2012, AlexNet was computer vision, ImageNet, image recognition, 82% or something like that Over the next almost not quite 10 years, I think it was like seven years, every single year, the accuracy error reduced in half, right?

2012年当時、AlexNetはコンピュータビジョン、ImageNetは画像認識で、82％とかそんなものでした。 それから10年近く、いや7年くらいだったと思いますが、毎年、精度の誤差は半分に減っていますよね？

Every year, the error reduced in half or otherwise known as Moore's law. So you double the performance, you double the accuracy, and you double its believability every single year.

毎年、誤差は半分になり、ムーアの法則として知られている。 つまり、毎年、性能が倍増し、精度が倍増し、信憑性が倍増しているのだ。

Over the course of seven years, it's now superhuman.

7年の歳月を経て、今では超人的だ。

Same thing with speech recognition.

音声認識も同じだ。

Same things with natural language understanding.

自然言語理解も同じだ。

We want to know.

私たちはそれを知りたい。

We want to believe.

私たちは信じたい。

Not know.

分からない。

We want to believe that the answer that's being predicted to us is accurate.

私たちは、予測されている答えが正確だと信じたい。

We want to believe that.

そう信じたい。

And so the industry is going to chase that believability or that accuracy and double its accuracy two X every year.

だから、業界はその信憑性や正確さを追い求め、毎年2倍の精度を出すことになる。

I believe that's going to be the same thing with natural language understanding.

それは自然言語理解でも同じことになると思う。

And of course, the problem space is a lot more complicated.

もちろん、問題空間はもっと複雑だ。

But I have every certainty that we're going to double its accuracy every single year to the point where it is so accurate.

しかし、私は毎年その精度を倍増させ、ここまで正確なものにするという確信を持っている。

And we've largely tested across many of your examples when you interact with it that you go, you know what?

そして、私たちは、あなたがこのプログラムに参加したとき、多くの事例をテストしました。

This is really, really good.

これは本当に、本当にいい。

I believe the answer that it's producing for me.

その答えを信じている。

That condition is very important.

その条件はとても重要だ。

The second thing is this.

もうひとつはこれだ。

Today's language models, today's AI and everything that we've shown are one shot.

今日の言語モデル、今日のAI、そして私たちが示したものはすべて一発勝負だ。

And yet, you and I both know that there are many things that we think about that are not one shot.

それでも、私たちが考えることは一発勝負ではないことがたくさんあることは、あなたも私も知っている。

You have to iterate.

反復しなければならない。

And so how do you come up?

それで、どうやって出世するんだ？

How do you reason about a plan?

どのように計画を推論するのか？

How do you come up with a strategy to solve a problem?

問題を解決するための戦略をどのように考え出すのか？

Maybe you need to use tools.

道具を使う必要があるかもしれない。

Maybe you have to look up some proprietary data.

もしかしたら、独自のデータを調べなければならないかもしれない。

Maybe you have to do some research, in fact.

実際、リサーチが必要なのかもしれない。

Maybe you have to ask another agent.

たぶん、他のエージェントに頼むしかないだろう。

Maybe ask another AI.

他のAIに聞いてみたら？

Maybe you have to be human in a loop.

ループの中で人間でなければならないのかもしれない。

Ask a human.

人間に聞いてみろ。

Trigger an event.

イベントをトリガーする。

Send an email to somebody or text to somebody.

誰かにメールを送ったり、テキストを送ったりする。

Get a response before you can move on to the next step of that plan.

そのプランの次のステップに進む前に、返事をもらう。

And so a large language model has to iterate and think of a plan.

そのため、大規模な言語モデルは反復してプランを考えなければならない。

That's not a one shot thing.

それは一過性のものではない。

And once it comes up with a plan, as it traverses that graph, there's a whole bunch of language models that are going to get instantiated and initiated.

そして一旦プランが決まれば、そのグラフをトラバースしながら、インスタンス化され、開始される言語モデルがたくさんある。

And so I think your future models are going to iterate.

だから、今後のモデルは反復していくことになると思う。

And so instead of just a one shot model, it's going to be a planning model with a whole bunch of other models around it that get particular skills.

そして、単なる一発芸のモデルではなく、その周囲に特定のスキルを持つ他のモデルをたくさん配置したプランニング・モデルになるんだ。

And so I think we have long ways to go.

だから、まだ先は長いと思う。

And meta garnered a lot of attention last week for the release of Llama 3, which seems to be the most impressive open source model thus far.

そしてメタは先週、これまでのオープンソース・モデルの中で最も印象的と思われるラマ3をリリースし、注目を集めた。

Any thoughts on open source models?

オープンソースのモデルについて何かお考えは？

If you ask me what are the top most important events in the last couple of years, I would tell you, of course, ChatGPT, reinforcement learning, human feedback, grounding it to human values and having the technology necessary to do that.

ここ2、3年で最も重要な出来事は何かと聞かれたら、私はもちろんChatGPT、強化学習、人間のフィードバック、人間の価値観に根ざしたもの、そしてそのために必要なテクノロジーだと答えるだろう。

Obviously, a breakthrough and democratized computing.

明らかに画期的で、コンピューティングを民主化した。

It made it possible for everybody to be a programmer.

誰もがプログラマーになれるようになった。

Everybody's now doing amazing things with it.

今、みんなそれを使って素晴らしいことをやっている。

ChatGPT, the work that OpenAI did, Greg and Sam and the team, really proud of them.

ChatGPT、OpenAIの仕事、グレッグとサム、そしてチームを本当に誇りに思う。

The second thing that I would say that is just as important, I would say, is Llama, not Llama 1, but Llama 2.

もうひとつは、ラマ1号ではなくラマ2号だ。

Llama 2 activated just about every industry to jump into working on generative AI.

ラマ2によって、あらゆる産業がジェネレーティブAIの開発に乗り出すようになった。

And it opened the floodgates of every industry being able to access this technology.

そして、あらゆる産業がこのテクノロジーにアクセスできる門戸を開いた。

Healthcare, financial services, you name it, manufacturing, you name it, customer service, retail, all kinds.

ヘルスケア、金融サービス、製造業、カスタマーサービス、小売業など、あらゆる業種がある。

I think Llama 2 and Llama 3, because it's open sourced, it engaged research, it engaged startups, engaged industry, it made generative AI accessible.

Llama 2とLlama 3はオープンソースであり、研究、新興企業、産業界を巻き込み、ジェネレーティブAIを身近なものにした。

I think that's a very big deal.

それはとても大きなことだと思う。

And so I think ChatGPT democratized computing.

ChatGPTはコンピューティングを民主化したと思う。

I think Llama democratized generative AI.

ラマは生成AIを民主化したと思う。

Does it make sense?

意味があるのか？

And I think without it, it's very hard to have activated all of the research on safety and all of the different ways of change of thoughts and all the reasoning technology that's now being developed and all the reinforcement learning stuff.

それがなければ、安全性に関する研究や、思考を変化させるさまざまな方法、現在開発されている推論技術や強化学習に関するものすべてを活性化させることは難しいと思う。

And that stuff would have been very hard to have activated without Llama.

そして、ラマがいなければ、そのようなものを発動させることは非常に難しかっただろう。

And Dario Amode was on Ezra Klein.

そして、ダリオ・アモデはエズラクラインに出演していた。

Oh, wow.

ああ、すごい。

I haven't thought about this in a long time.

このことは長い間考えていなかった。

I guess in a lot of ways, probably...

いろんな意味で、たぶん...。

Okay, here's one.

よし、これだ。

When I first started NVIDIA, I was 29 years old and I was 29 years old with acne.

私がNVIDIAを始めたとき、私は29歳で、ニキビがありました。

And you go recruit law firms and VCs and I got a big zit on my forehead.

そして、法律事務所やVCをリクルートし、私は額に大きなニキビを作った。

And I don't have one today, so I feel comfortable talking about it.

今日、僕はそれを持ってないから、安心して話せるんだ。

But it could happen.

しかし、それは起こり得ることだ。

And so anyways, you feel rather insecure because most of CEOs back then wore suits and they're quite accomplished and they sound like adults and they use big words and they talk about business and things like that.

というのも、当時のCEOのほとんどはスーツを着ていて、立派で、大人のようで、大きな言葉を使い、ビジネスについて話したりするからだ。

And so when you're young, you feel rather intimidated.

だから若いうちは、むしろ威圧感を感じるものだ。

You're surrounded by a bunch of adults.

あなたは大勢の大人に囲まれている。

Well, now, if you don't have acne, I don't think you deserve to start a company.

ニキビがなければ、会社を興す資格はないと思う。

That's one big difference.

それが大きな違いだ。

Acne.

ニキビだ。

The takeaway from Jensen's speech.

ジェンセンのスピーチから得たもの。

What it means is really, we've enabled younger people to be extraordinary.

その意味するところは、若い人たちが並外れた存在になれるようにしたということだ。

I think that the young generation of CEOs, the type of things that you guys know at such a young age is really quite extraordinary.

CEOの若い世代は、君たちが若くして知っているようなことは、本当に並外れたことだと思う。

I mean, it took me decades to learn it.

つまり、それを学ぶのに何十年もかかったんだ。

And so...

それで...

Last question.

最後の質問だ。

And that was a compliment.

そしてそれは褒め言葉だった。

See how he quickly changed it?

彼がすぐに変えたのを見たかい？

I wasn't saying you have acne.

ニキビがあるなんて言ってないよ。

I was just saying you were smart.

私はただ、あなたが賢いと言っただけだ。

NVIDIA has a market cap of roughly $2 trillion.

エヌビディアの時価総額は約2兆ドル。

And you're now within spitting distance of Apple and Microsoft.

そして、アップルやマイクロソフトのすぐ近くまで来ている。

And I just checked and they have 220,000 and 160,000 employees respectively.

従業員数はそれぞれ22万人と16万人だ。

NVIDIA has 28,000 employees.

エヌビディアには28,000人の従業員がいる。

So less than a fifth of the smaller of the two there.

つまり、この2つのうち小さいほうの5分の1以下ということになる。

And then you just said when we were chatting backstage, and I jotted this down, you can achieve operational excellence through process, but craft can only be achieved with tenure.

それから、楽屋で雑談していたときにあなたが言ったことだが、私はこれをメモしておいた。

And so NVIDIA is considerably smaller than any of the other giants.

そのため、エヌビディアは他のどの大手よりもかなり小さい。

And you seem to think that tenure really matters.

そして、あなたは終身在職権が本当に重要だと考えているようだ。

And I guess the craft really matters.

そして、技術が本当に重要なのだと思う。

Do you want to say a little bit more there?

もう少し言いたいことはありますか？

I think a lot of good things could be made, good things are made with operational excellence.

オペレーショナル・エクセレンスがあれば、いいものがたくさんできると思う。

But you can't make extraordinary things through just operational excellence.

しかし、オペレーショナル・エクセレンスだけでは並外れたものは作れない。

And the reason for that is because a lot of the great things in your body of work and the products that you make, the company you created, the organizations you've nurtured, it takes loving care.