Name: イーロン・マスクが世界最大のスーパーコンピューターを開発する理由 (Why Elon Musk Is Building The World's BIGGEST Supercomputer)
Uploaded: 2024-07-08T07:00:15.000Z
Duration: 15 min 52 s

再帰代名詞

Elon Musk appears to have found himself a new obsession, supercomputers.

イーロン・マスクは、スーパーコンピューターという新たな強迫観念を見つけたようだ。

Elon has not been shy about telling the world that he is laying down fat stacks of cash to build out his computer army.

イーロンは、コンピューター軍団を増強するために大金を積んでいることを恥ずかしげもなく世界に語っている。

We are looking at tens of billions of dollars being invested in just the next year alone.

来年だけでも数百億ドルが投資されると見ている。

さて、なぜ彼はこんなことをしているのだろう？

Because well, that's where things get interesting.

なぜなら、そこからが面白くなるからだ。

Okay first let's break this whole supercomputer situation up into some manageable chunks and start to identify what goes where because Elon is building multiple computer clusters for different projects that do different things and at some point he seemingly referred to each of them as either the world's biggest or the world's most powerful so it's a bit hard to follow.

なぜなら、イーロンは異なるプロジェクトのために、異なることをする複数のコンピューター・クラスターを構築しており、ある時点で彼はそれぞれのコンピューター・クラスターを世界最大あるいは世界最強と呼んだようだ。

They're getting a brand new supercomputer.

新しいスーパーコンピューターが導入される。

This is actually under construction right now.

The Gigafactory in Austin, Texas, which was already the biggest car manufacturing plant in the world, is getting even bigger and most of that new real estate is being dedicated to supercomputer activity, which is why they are also building this whole dedicated cooling bunker.

テキサス州オースティンにあるギガファクトリーは、すでに世界最大の自動車製造工場であったが、さらに大きくなり、その新しい敷地の大半はスーパーコンピューターの活動に充てられている。

イーロンは最近、Xでこのことについて語った。

He wrote, sizing for about 130 megawatts of power and cooling this year but will increase to over 500 megawatts over the next 18 months or so.

彼は、今年は約130メガワットの電力と冷却のためのサイジングだが、今後1年半ほどで500メガワット以上に増えるだろうと書いている。

So as for what exactly Tesla plans to do with all that power, we'll get into those details shortly but first let's talk about an even bigger supercomputer project that Elon is working on for his XAI venture.

では、テスラがそのパワーを使って具体的に何をするつもりなのか、その詳細については追って説明するが、まずはイーロンのXAIベンチャーのために取り組んでいる、さらに大規模なスーパーコンピューター・プロジェクトについて話そう。

This one will be built in Memphis, Tennessee and Elon has referred to it as the Gigafactory of Compute.

この工場はテネシー州メンフィスに建設される予定で、イーロンはこれを「ギガファクトリー・オブ・コンピュート」と呼んでいる。

He then went on to tell officials, quote, my vision is to build the world's largest and most powerful supercomputer and I'm willing to put it in Memphis.

私のビジョンは世界最大かつ最強のスーパーコンピューターを作ることであり、それをメンフィスに置くこともいとわない。

And then in addition to all of that, Tesla has been kind of secretly converting all of their vehicles into a mobile, decentralized supercomputer network of their own, which will eventually include all of their humanoid robots as well.

さらに、テスラは密かにすべての車両を独自のモバイル分散型スーパーコンピューター・ネットワークに改造しており、最終的にはすべての人型ロボットもこれに含まれることになる。

Okay, let's start breaking down how all of this stuff works.

では、これらの仕組みについて説明しよう。

So as many of you know, we are all Canadians here behind the scenes, which is generally pretty awesome except when it comes to the internet.

ご存知のように、私たちは皆、カナダ人である。

The Canadian government has a weird thing about trying to control what we can and can't see online.

カナダ政府は、私たちがオンラインで見ることができるもの、できないものをコントロールしようとする奇妙なところがある。

It's even started to result in Meta and Google limiting the type of content that I'm able to access.

その結果、メタやグーグルが私がアクセスできるコンテンツの種類を制限し始めた。

And if that wasn't enough, our Netflix selection sucks up here, too.

それでも足りなければ、ネットフリックスのセレクションも最悪だ。

So in an effort to dodge all of that madness, I've started using a VPN.

だから、その狂気のすべてをかわすために、私はVPNを使い始めた。

More specifically, I've been using CyberGhost VPN, not only because they have a cool name, but also because they offer a very high quality product at an even more affordable price and a cool name.

具体的には、私はCyberGhost VPNを使っている。CyberGhost VPNは名前がかっこいいだけでなく、非常に高品質な製品をさらに手頃な価格で提供しており、名前もかっこいいからだ。

With CyberGhost VPN, all of your traffic goes through a secure VPN tunnel.

CyberGhost VPNでは、すべてのトラフィックが安全なVPNトンネルを通過します。

Your IP address is hidden and your data is encrypted.

あなたのIPアドレスは隠され、データは暗号化されます。

Trust me, you want your data and history secured and encrypted.

データも履歴も安全で暗号化されたものがいい。

So what you do online is strictly your business.

つまり、オンラインで何をするかは、あくまでもあなたのビジネスなのだ。

You can also change your online location in just three clicks and get access to geo-restricted content from dozens of streaming services like Netflix.

また、わずか3回のクリックでオンラインロケーションを変更し、Netflixのような数十のストリーミングサービスから地域制限のあるコンテンツにアクセスすることもできる。

With CyberGhost VPN, you can even find better online shopping deals or play games blocked in your region.

CyberGhost VPNを利用すれば、よりお得なオンラインショッピングを見つけたり、お住まいの地域でブロックされているゲームをプレイしたりすることもできます。

CyberGhost VPN is available for all platforms such as Windows, Mac OS, Android, iOS, and many others.

CyberGhost VPNは、Windows、Mac OS、Android、iOSなど、すべてのプラットフォームでご利用いただけます。

You can use one subscription to protect up to seven devices at a time, so you can easily share with your family and friends.

1つのサブスクリプションで同時に7台までのデバイスを保護できるので、家族や友人と簡単に共有できる。

Plus, you get a 45-day money-back guarantee and 24-7 customer support, so everything is risk-free.

さらに、45日間の返金保証と24時間365日のカスタマーサポートがあるので、リスクは一切ない。

CyberGhost VPN is offering their best deal ever, just $2.03 per month, and you get four months free, which is 84% off.

CyberGhost VPNはこれまでで最もお得なキャンペーンを実施中で、月額わずか2.03ドル。

So, join over 38 million happy users, including me, and click the link in our description to sign up today.

私を含む3800万人以上の幸せなユーザーと一緒に、説明文にあるリンクをクリックして今すぐ登録してください。

Okay, that brand-new GigaTexas data center that's under construction right now is going to be aimed specifically at developing Tesla's full self-driving software.

現在建設中のギガテキサス・データセンターは、テスラの完全自動運転ソフトウェアの開発に特化したものだ。

And to do that, Elon says that it will be loaded with a combination of NVIDIA GPUs along with Tesla's own AI-specific hardware.

そのためにイーロンは、エヌビディアのGPUとテスラ独自のAI専用ハードウェアを組み合わせて搭載すると述べている。

Elon says that the south extension of the factory is custom-built for heavy power compute and cooling, hence the giant cooling bunker.

イーロンによれば、工場の南側の拡張部分は大電力計算と冷却のために特注されており、それゆえ巨大な冷却バンカーがあるのだという。

He said earlier this month that the initial system is 50,000 NVIDIA H100 GPUs alongside 20,000 Tesla hardware for AI computers and a massive network of hard drives for video storage.

同氏は今月初め、初期システムは5万個のエヌビディアH100 GPUと、AIコンピュータ用の2万個のテスラ・ハードウェア、そしてビデオ・ストレージ用の巨大なハードディスク・ネットワークであると述べた。

When Elon says that Tesla is spending $10 billion this year on AI, this is where a large chunk of that cash is going right now.

イーロンは、テスラが今年100億ドルをAIに費やすと言っているが、その現金の大部分が今ここに使われているのだ。

The NVIDIA H100 is a current industry standard chip for AI training, which is an extraordinarily complicated process involving endless calculations in an attempt to teach a computer network the difference between right and wrong.

エヌビディアH100は、現在の業界標準のAIトレーニング用チップであり、コンピュータネットワークに善悪の違いを教えようとする、果てしない計算を伴う非常に複雑なプロセスである。

We provide the input and then train the network until it produces the desired output.

私たちは入力を提供し、それが望ましい出力を生成するまでネットワークを訓練する。

In the most common AI models that we use today, like ChatGPT or MidJourney, we input words or pictures and receive the same as an output.

ChatGPTやMidJourneyのような、今日私たちが使っている最も一般的なAIモデルでは、私たちは言葉や絵を入力し、同じものを出力として受け取る。

In some more advanced new models, you can even input text and get video as an output.

さらに進化したモデルでは、テキストを入力してビデオを出力することもできる。

In Tesla's AI models, the input is video and the output is driving a car.

テスラのAIモデルでは、入力はビデオで、出力は車の運転だ。

So this is significantly more complex than what most people have grown accustomed to, and as a result, it requires a much more powerful and sophisticated hardware setup to make it all work.

そのため、多くの人が慣れ親しんできたものよりもはるかに複雑で、その結果、すべてを機能させるためにははるかにパワフルで洗練されたハードウェアのセットアップが必要となる。

That's where Tesla's AI hardware comes into play.

そこでテスラのAIハードウェアが活躍する。

In addition to the training computer, Tesla also uses a powerful computer inside their vehicles.

トレーニング用コンピューターに加えて、テスラは車内にも強力なコンピューターを使用している。

This is called Inference Compute, and it allows the AI to operate in the real world in real time and make decisions at incredibly high speed.

これは推論コンピュート（Inference Compute）と呼ばれ、AIが現実世界でリアルタイムに動作し、信じられないほどの高速で判断を下すことを可能にする。

You know when you ask ChatGPT a question and it has to kind of think for a second before generating an answer?

ChatGPTに質問をすると、答えを出す前にちょっと考えなければならないことがあるでしょ？

That's because pretty much every AI model that we use right now is just a cloud-based web app.

というのも、私たちが今使っているAIモデルのほとんどは、クラウドベースのウェブアプリにすぎないからだ。

ChatGPT isn't operating on your computer or your phone.

ChatGPTはあなたのコンピュータや携帯電話上で動作していません。

The prompt that you write is sent off to an OpenAI data center, where it's processed through their own giant supercomputer cluster, and then the response is sent back to you.

あなたが書いたプロンプトは、OpenAIのデータセンターに送られ、そこで彼らの巨大なスーパーコンピューター・クラスターを通して処理され、その返答があなたに送り返される。

This is fine if you just want a cookie recipe or a picture of a robot on Mars, but when AI is driving your car, it cannot be sending every decision back and forth through the internet.

クッキーのレシピや火星にいるロボットの写真が欲しいだけならこれでもいいが、AIがあなたの車を運転するとなると、すべての判断をインターネットを通じて送受信するわけにはいかない。

It needs a brain that will do the thinking and decision-making on-site.

現場で思考し、意思決定する脳が必要なのだ。

それがテスラのAIハードウェアだ。

Not only is this inference hardware inside every car, it's also used in the Tesla data centers, alongside the NVIDIA hardware.

この推論ハードウェアは、すべての自動車に搭載されているだけでなく、エヌビディアのハードウェアと並んでテスラのデータセンターでも使用されている。

The way that Elon explains this is that the H100s, the Tesla hardware and software video data, is all part of one big training loop.

イーロンの説明によると、H100s、テスラのハードウェアとソフトウェアの映像データは、すべて1つの大きなトレーニングループの一部だという。

Currently, Tesla is using their AI hardware version 4, but Elon says that before the end of next year, there will be hardware version 5, which is called AI 5.

現在、テスラはAIハードウェア・バージョン4を使っているが、イーロンは来年末までにAI 5と呼ばれるハードウェア・バージョン5が登場すると言っている。

This will roll out in vehicles and data centers.

これは自動車とデータセンターで展開される。

Elon says that the new chip will have 10 times more capability than hardware 4, so that would potentially equal 10 times better performance in the training loop and 10 times better performance running the AI model in the vehicle for autonomous driving.

イーロンは、新しいチップはハードウェア4の10倍の能力を持つことになると言っている。つまり、トレーニング・ループの性能が10倍向上し、自律走行用車両でAIモデルを実行する性能が10倍向上する可能性がある。

The same AI5 chip is not only going into future Tesla vehicles, it's also going into Tesla's This is likely the motivating factor for Tesla building out such a massive new supercomputer cluster.

同じAI5チップは、将来のテスラ車に搭載されるだけでなく、テスラ社にも搭載される予定だ。 これが、テスラがこれほど大規模な新しいスーパーコンピューター・クラスターを構築する動機となったと思われる。

Obviously, full self-driving still needs some work, but Elon said a couple of months back that Tesla was not compute-constrained for FSD.

もちろん、完全な自動運転にはまだいくつかの作業が必要だが、イーロンは数カ月前に、テスラはFSDのために計算能力に制約があるわけではないと述べた。

それはデータに関することだと彼は言った。

Though when it comes to developing brand new models for the Tesla bot, those could prove to be even bigger than full self-driving.

しかし、テスラボットの新モデル開発に関しては、完全な自動運転よりもさらに大きなものになる可能性がある。

There is so much that the bot will need to know in order to function in the real world and perform human tasks, so Tesla will not be done with AI training any time soon, even if we do get full robotaxis next year.

ボットが現実の世界で機能し、人間の仕事をこなすためには、多くのことを知る必要がある。

And if that wasn't enough, Elon already has some big ideas for what Tesla could do with all of these high-powered inference computers out there in the world.

それでもまだ十分でないのなら、イーロンはすでに、世界中にある高性能の推論コンピューターを使ってテスラができることについて、大きなアイデアを持っている。

At the recent Tesla shareholder meeting in June, Elon Musk put out this concept about how the company might be able to use future autonomous vehicle hardware in some unconventional ways.

6月に開催されたテスラの株主総会で、イーロン・マスクは将来の自律走行車のハードウェアを従来とは異なる方法で利用する方法について、こんなコンセプトを発表した。

The idea is that if there is a point down the road where tens of millions of Tesla vehicles are out there in the world, and many of them are equipped with this AI5 hardware, then you essentially have a giant, decentralized supercomputer made up of individual cars that are all connected by the Tesla network.

もしこの先、何千万台ものテスラ車が世の中に出回り、その多くがこのAI5ハードウェアを搭載するようになれば、テスラのネットワークで結ばれた個々の車からなる巨大な分散型スーパーコンピューターが誕生することになる。

Elon speculated that by around the end of the decade, there might be a gigawatt of computing power when all of these Tesla vehicles are combined.

イーロンは、これらのテスラ車をすべて合わせると、10年後ごろには1ギガワットのコンピューティング・パワーになるかもしれないと推測している。

Going back to that GigaTexas computer cluster, there's up to 500 megawatts of power, which is half a gigawatt.

ギガテキサスのコンピュータ・クラスターに話を戻すと、最大500メガワットの電力が必要で、これは半分のギガワットに相当する。

Anyway, the in-car computer of a robotaxi would be occupied with self-driving tasks most of the time, but for periods when the vehicle is either recharging or just not being used, that computing power might be harnessed to do other important jobs.

いずれにせよ、ロボットタクシーの車載コンピューターは、ほとんどの時間、自動運転タスクで占められているが、車両が充電中であったり、単に使用されていない時間帯には、そのコンピューティング・パワーを他の重要な仕事に活用できるかもしれない。

This is basically the same concept behind Amazon Web Services.

これは基本的にアマゾン・ウェブ・サービスのコンセプトと同じだ。

This is the business model that actually makes money at Amazon, and the concept was born when the company found that all of the data processing hardware that they required to deal with peak traffic situations like Christmas was just sitting around and not being utilized during the other times of the year.

これはアマゾンで実際に利益を上げているビジネスモデルであり、クリスマスのようなトラフィックのピークに対応するために必要なデータ処理ハードウェアが、他の時期には活用されずに放置されていることに気づいたときに生まれたコンセプトである。

So they started renting out that computer hardware to other companies that needed the processing but didn't have the capital to build their own data center.

そこで、自社でデータセンターを建設する資金がないにもかかわらず、処理を必要としている他の企業にコンピュータ・ハードウェアを貸し出すようになった。

In theory, Tesla's Robotaxi network could kind of do the same thing, even the consumer vehicles as well.

理論的には、テスラのRobotaxiネットワークも同じようなことができる。

You could check a box on the app that would let Tesla access your in-car computer and maybe you get a cut of the revenue it earns.

アプリのチェックボックスをオンにすれば、テスラが車載コンピューターにアクセスできるようになる。

It's kind of like a crypto mining pool if you've ever seen or tried one of those.

暗号のマイニングプールのようなものだ。

Okay, so we've talked about AI in cars and autonomous driving, that's all cool, but what about solving the mysteries of the universe?

さて、自動車におけるAIや自律走行について話してきたが、それはとてもクールなことだ。

Okay, let's go back to Musk's Gigafactory of Compute, which is not to be confused with his giant computer at the Tesla Gigafactory.

テスラ・ギガファクトリーにある巨大コンピューターと混同しないように。

This is the new installation in Memphis that will be dedicated to XAI.

これはメンフィスにあるXAI専用の新しい施設である。

This is the one that could potentially become the world's largest and most powerful supercomputer by the end of 2025 if you're inclined to follow Elon timelines.

イーロンのタイムラインに従うなら、これは2025年末までに世界最大かつ最強のスーパーコンピューターになる可能性があるものだ。

In the short term, Elon is targeting 100,000 of the NVIDIA H100 GPUs up and running before the end of this year.

短期的には、イーロンは今年末までに10万個のNVIDIA H100 GPUを稼働させることを目標としている。

That's what he believes the company needs to build out the next generation of their Grok AI language model.

それがGrokの次世代AI言語モデルを構築するために必要なことだと彼は考えている。

This is chatbot that is native to the X platform, available to premium subscribers.

これはXプラットフォームネイティブのチャットボットで、プレミアム契約者が利用できる。

It's like ChatGPT except Grok has real-time access to every post on X and Grok also has the freedom of language to write swear words and make cringe attempts at humor, which can be a lot of fun.

これはChatGPTのようなものだが、GrokはXのすべての投稿にリアルタイムでアクセスできる。

This is just basic level stuff though, XAI was able to build out Grok 1 at an incredibly fast pace, it only took about 6 months from the company being founded to the release of their first product.

XAIは信じられないほどのスピードでGrok 1を作り上げることができ、会社設立から最初の製品のリリースまで約6ヶ月しかかからなかった。

Although it still lags behind ChatGPT a little bit in terms of capability and Grok definitely lacks the name recognition and popularity currently being enjoyed by ChatGPT and OpenAI.

機能面ではまだChatGPTに少し遅れをとっており、GrokにはChatGPTやOpenAIが現在享受している知名度や人気がないのは間違いない。

Grok 2 might be able to start turning the tide.

グロック2は流れを変えることができるかもしれない。

This is the product that XAI is working on currently.

これはXAIが現在取り組んでいる製品である。

The upgrade will allow Grok to both interpret and produce images and visual media so you can have it turn a spreadsheet into a graph or turn a graph into a spreadsheet or identify the content of a photograph or even explain a piece of art or a meme.

このアップグレードにより、Grokは画像やビジュアルメディアの解釈と生成の両方を行えるようになり、スプレッドシートをグラフに変えたり、グラフをスプレッドシートに変えたり、写真の内容を特定したり、芸術作品やミームを説明したりすることもできるようになる。

So far, XAI has been able to do all of this AI training in partnership with a company called Oracle Cloud.

これまでのところ、XAIはオラクル・クラウドという会社と提携して、このAIトレーニングのすべてを行うことができた。

Just like we were talking about earlier with renting out data processing, that's exactly what XAI has done here.

先ほどデータ処理のレンタルについて話したように、XAIはまさにそれを実現したのだ。

It looks like they have been renting the equivalent of about 20,000 H100 GPUs from Oracle.

オラクルから約2万個分のH100 GPUを借りているようだ。

Elon has said that the 100,000 H100 cluster will be necessary to train Grok 3, which is still unknown but we have to assume that this would be moving in the direction of a generalized artificial intelligence, something that can deal with text, sound, images, and video as both input and output media, which probably not by coincidence would be the exact kind of AI model that the Tesla Bot will need to fully function as a productive member of society at some point in the future.

イーロンは、10万個のH100クラスターがGrok 3を訓練するために必要であると述べている。これはまだ不明だが、一般化された人工知能、つまりテキスト、サウンド、画像、動画を入力メディアと出力メディアの両方として扱うことができるものの方向に向かっていると想定しなければならない。

Now beyond that is where things start to get weird.

さて、そこから先が奇妙なことになる。

Elon's vision of his completed Gigafactory of Compute is now looking like 300,000 units of the B200 GPU, which is Nvidia's next big chip release.

イーロンの「ギガファクトリー・オブ・コンピュート（Gigafactory of Compute）」完成のビジョンは、現在、Nvidiaが次にリリースする大型チップであるB200 GPUの30万ユニットのように見えている。