Name: Nvidiaの2024年Computex基調講演：15分ですべてが明らかになる (Nvidia's 2024 Computex Keynote: Everything Revealed in 15 Minutes)
Uploaded: 2024-06-06T09:38:36.000Z
Duration: 14 min 40 s

程度の副詞

Just last week, Google announced that they've put

つい先週、グーグルは次のように発表した。

クラウド上のCUDFとAccelerate Pandas。

Pandas is the most popular data science library in the world.

Pandasは世界で最も人気のあるデータサイエンスライブラリです。

Many of you in here probably already use Pandas.

ここにいる多くの人はすでにパンダを使っているだろう。

It's used by 10 million data scientists in the world, downloaded 170 million times each month.

毎月1億7000万回ダウンロードされ、世界で1000万人のデータサイエンティストに利用されている。

It is the Excel that is the spreadsheet of data scientists.

データサイエンティストの表計算ソフトはエクセルである。

Well, with just one click, you can now use Pandas in Colab, which is Google's cloud data centers platform, accelerated by CUDF.

ワンクリックで、CUDFによって加速されたGoogleのクラウド・データセンター・プラットフォームであるColabでPandasを使うことができる。

スピードアップは本当にすごい。

素晴らしいデモだったでしょう？

The idea that we would create a digital twin of the Earth, that we would go and simulate the Earth so that we could predict the future of our planet to better avert disasters or better understand the impact of climate change so that we can adapt better, so that we could change our habits now.

地球のデジタル・ツインを作り、地球をシミュレートすることで、地球の未来を予測し、災害を回避したり、気候変動の影響をよりよく理解し、適応できるようにする。

This digital twin of Earth is probably one of the most ambitious projects that the world's ever undertaken.

この地球のデジタル・ツインは、おそらく世界で最も野心的なプロジェクトのひとつだろう。

And we're taking large steps every single year.

そして私たちは毎年、大きなステップを踏んでいる。

And I'll show you results every single year.

そして、毎年結果をお見せします。

But this year, we made some great breakthroughs.

しかし今年、私たちは大きな飛躍を遂げた。

On Monday, the storm will veer north again and approach Taiwan.

月曜日には、暴風雨は再び北上し、台湾に接近する。

There are big uncertainties regarding its path.

進路については大きな不確定要素がある。

Different paths will have different levels of impact on Taiwan.

道筋が違えば、台湾に与える影響のレベルも違ってくる。

Someday, in the near future, we will have continuous weather prediction at every square kilometer on the planet.

いつの日か、近い将来、地球上のすべての平方キロメートルで連続的な天気予報ができるようになるだろう。

We will have continuous weather prediction at every square kilometer on the planet.

地球上のすべての平方キロメートルで継続的な天気予報ができるようになる。

You will always know what the climate's going to be.

気候がどうなるかはいつでもわかる。

And this will run continuously because we've trained the AI.

AIを訓練しているので、これは継続的に実行される。

それにAIはエネルギーをほとんど必要としない。

In the late 1890s, Nikola Tesla invented an AC generator.

1890年代後半、ニコラ・テスラは交流発電機を発明した。

我々はAIジェネレーターを発明した。

交流発電機は電子を発生させた。

NVIDIA's AI generator generates electrons.

エヌビディアのAIジェネレーターが電子を生成。

AIジェネレーターはトークンを生成する。

Both of these things have large market opportunities.

どちらも大きな市場機会がある。

It's completely fungible in almost every industry.

ほとんどすべての産業で、それは完全にカビだ。

And that's why it's a new industrial revolution.

だからこそ、新たな産業革命なのだ。

And now we have a new factory, a new computer.

そして今、新しい工場、新しいコンピューターがある。

And what we will run on top of this is a new type of software.

そして、私たちがその上で実行するのは、新しいタイプのソフトウェアだ。

And we call it NIMS, NVIDIA Inference Microservices.

私たちはこれをNIMS（NVIDIA Inference Microservices）と呼んでいます。

Now, what happens is the NIM runs inside this factory.

さて、どうなるかというと、NIMはこの工場の中で動く。

そして、このNIMは事前に訓練されたモデルである。

Well, this AI is, of course, quite complex in itself.

もちろん、このAIはそれ自体が非常に複雑だ。

But the computing stack that runs AIs are insanely complex.

しかし、AIを実行するコンピューティング・スタックは非常に複雑だ。

When you go and use chat GPT, underneath their stack is a whole bunch of software.

チャットGPTを使う場合、そのスタックの下にはたくさんのソフトウェアがある。

Underneath that prompt is a ton of software.

そのプロンプトの下には、たくさんのソフトウェアがある。

And it's incredibly complex because the models are large, billions to trillions of parameters.

数十億から数兆のパラメータを持つ大規模なモデルなので、信じられないほど複雑だ。

1台のコンピューターだけでは動かない。

複数のコンピューターで動作する。

It has to distribute the workload across multiple GPUs, tensor parallelism, pipeline parallelism, data parallelism, all kinds of parallelism, expert parallelism, all kinds of parallelism, distributing the workload across multiple GPUs, processing it as fast as possible.

テンソル並列、パイプライン並列、データ並列、あらゆる種類の並列、エキスパート並列、あらゆる種類の並列、複数のGPUにワークロードを分散し、可能な限り高速に処理しなければならない。

Because if you are in a factory, if you run a factory, your throughput directly correlates to your revenues.

工場を経営していれば、処理能力は収益に直結するからだ。

Your throughput directly correlates to quality of service.

スループットはサービス品質に直結します。

And your throughput directly correlates to the number of people who can use your service.

そしてスループットは、サービスを利用できる人の数に直結する。

We are now in a world where data center throughput utilization is vitally important.

私たちは今、データセンターのスループット利用率が極めて重要な世界にいる。

It was important in the past, but not vitally important.

昔は重要だったが、極めて重要というわけではなかった。

It was important in the past, but people don't measure it.

昔は重要だったが、人々はそれを測らない。

今日、あらゆるパラメーターが測定されている。

Start time, up time, utilization, throughput, idle time, you name it.

起動時間、稼働時間、利用率、スループット、アイドル時間、何でもありだ。

When something is a factory, its operations directly correlate to the financial performance of the company.

何かが工場である場合、その操業は会社の財務実績に直結する。

And so we realized that this is incredibly complex for most companies to do.

そして、これはほとんどの企業にとって信じられないほど複雑なことだと気づいた。

So what we did was we created this AI in a box.

そこで私たちが行ったのは、箱の中にAIを作ることだった。

And the container's an incredible amount of software.

そして、コンテナには信じられないほどの量のソフトウェアが入っている。

Inside this container is CUDA, CUDNN, TensorRT,

このコンテナの中には、CUDA、CUDNN、TensorRTが入っている、

It is cloud native, so that you could autoscale in a Kubernetes environment.

クラウドネイティブなので、Kubernetes環境でオートスケールできる。

It has management services and hooks, so that you can monitor your AIs.

管理サービスとフックを備えており、AIを監視することができる。

It has common APIs, standard APIs, so that you could literally chat with this box.

一般的なAPI、標準的なAPIを備えているので、文字通りこのボックスでチャットができる。

We now have the ability to create large language models and pre-trained models of all kinds.

私たちは現在、大規模な言語モデルやあらゆる種類の事前学習済みモデルを作成する能力を持っている。

And we have all of these various versions, whether it's language-based, or vision-based, or imaging-based.

言語ベースであれ、視覚ベースであれ、画像ベースであれ、さまざまなバージョンがある。

We have versions that are available for health care, digital biology.

私たちは、ヘルスケアやデジタル生物学に利用可能なバージョンを用意しています。

We have versions that are digital humans that I'll talk to you about.

デジタルヒューマンのバージョンもあるので、それについてはまたお話しします。

And the way you use this, just come to AI.NVIDIA.com.

And today, we just posted up in Hugging Face the LLAMA3 NIM, fully optimized.

そして今日、Hugging FaceにLLAMA3 NIMを掲載したところだ。

そこで試してみることができる。

And finally, AI models that reproduce lifelike appearances, enabling real-time path traced subsurface scattering to simulate the way light penetrates the skin, scatters, and exits at various points, giving skin its soft and translucent appearance.

そして最後に、リアルな外観を再現するAIモデル。リアルタイムでパストレースされたサブサーフェススキャッタリングを可能にし、光が肌を透過して散乱し、さまざまなポイントから抜ける様子をシミュレートすることで、肌に柔らかさと透明感を与えている。

NVIDIA ACE is a suite of digital human technologies packaged as easy-to-deploy, fully-optimized microservices, or NIMs.

NVIDIA ACEは、展開が容易で、完全に最適化されたマイクロサービス（NIM）としてパッケージ化されたデジタルヒューマンテクノロジーのスイートである。

Developers can integrate ACE NIMs into their existing frameworks, engines, and digital human experiences.

開発者は、ACE NIMを既存のフレームワーク、エンジン、デジタル・ヒューマン・エクスペリエンスに統合することができる。

Nemotron SLM and LLM NIMs to understand our intent and orchestrate other models.

ネモトロンSLMとLLM NIMは、我々の意図を理解し、他のモデルを編成する。

Riva Speech NIMs for interactive speech and translation.

リヴァスピーチNIMは、インタラクティブなスピーチと翻訳を実現します。

Audio-to-Face and Gesture NIMs for facial and body animation.

顔と体のアニメーションのための音声対顔およびジェスチャーNIM。

And Omniverse RTX with DLSS for neural rendering of skin and hair.

そして、肌や髪のニューラル・レンダリングのためのDLSSを搭載したオムニバースRTX。

And so we installed every single RTX GPU with Tensor Core processing.

そして、Tensor Core処理を搭載したRTX GPUをすべて導入した。

And now we have 100 million GeForce RTX AI PCs in the world.

そして今、世界に1億台のGeForce RTX AI PCがある。

And this Computex, we're featuring four new amazing laptops.

そして今回のComputexでは、4つの新しい素晴らしいノートパソコンを紹介する。

彼ら全員がAIを動かすことができる。

Your future laptop, your future PC, will become an AI.

未来のノートパソコン、未来のPCはAIになる。

It'll be constantly helping you, assisting you in the background.

それは常にあなたを助け、バックグラウンドであなたをサポートする。

皆さん、ブラックウェルです。

これが我々のプロダクションボードだ。

This is the most complex, highest performance computer the world's ever made.

これは世界で最も複雑で高性能なコンピューターだ。

And these are, you could see, the CPUs are the most powerful, the most powerful, and these are, you could see, each one of these Blackwell dies, two of them connected together.

そして、これらは、ご覧の通り、CPUが最も強力で、これらは、ご覧の通り、ブラックウェルのダイがそれぞれ2つずつ接続されている。

It is the largest die, the largest chip the world makes.

世界が製造するチップの中で最大のダイであり、最大のチップである。

And then we connect two of them together with a 10 terabyte per second link.

そして、そのうちの2つを毎秒10テラバイトのリンクで接続する。