Name: NVIDIA GPUとGoogle・AmazonのAIチップ比較 (How Nvidia GPUs Compare To Google’s And Amazon’s AI Chips)
Uploaded: 2025-12-02T00:01:33.000Z
Duration: 15 min 59 s
Description: VoiceTubeの動画で発音を聞きながら英語表現を覚えよう！学べる英語：

Nvidia graphics processing units like These latest Blackwell GPUs are inside server racks all over the world.

世界中のサーバーラックには、NVIDIAのGPU、特に最新のBlackwell GPUsが搭載されています。

分詞構句

Nvidia has catapulted from gaming giant to the very core of generative AI, training the models, running the workloads and sending Nvidia's valuation soaring.

NVIDIAは、ゲーミングの巨人から生成AIの中核へと飛躍し、モデルのトレーニング、ワークロードの実行、そしてNVIDIAの評価額を急上昇させています。

With 6 million Blackwell GPUs shipped over the last year, this connects all 72 GPUs, allowing the ACT as a single GPU to power the most advanced AI workloads.

昨年出荷された600万個のBlackwell GPUsは、72個のGPUすべてを接続し、単一のGPUとして最も高度なAIワークロードを処理できるようにします。

GPUs are the general purpose workhorse stock of Nvidia and its top competitor amd.

GPUは、NVIDIAとそのトップ競合であるAMDの汎用的な主力製品です。

But another big category of AI chip is gaining ground.

しかし、AIチップのもう一つの大きなカテゴリーが勢力を増しています。

The custom ASIC application specific integrated circuit now being designed by all the major hyperscalers.

主要なハイパースケーラーが設計しているカスタムASIC、アプリケーション特定集積回路です。

Google, Amazon, Meta, Microsoft, OpenAI alongside Broadcom.

Google、Amazon、Meta、Microsoft、OpenAI、そしてBroadcomです。

These AI chips are smaller, cheaper, accessible and as the name suggests, specifically built for one purpose.

これらのAIチップは、より小さく、安価で、入手しやすく、その名の通り、一つの目的に特化して作られています。

But we see that growing even faster than the GPU market over the next few years.

しかし、今後数年間でGPU市場よりもさらに速く成長すると見ています。

AI chips also include FPGA's Field Programmable Gate arrays and an entire group of chips used to power edge AI on device instead of in the cloud.

AIチップには、FPGA（プログラマブルロジックデバイス）や、クラウドではなくデバイス上でエッジAIを動かすために使われるチップ群も含まれます。

In short, there's a lot of AI chips and the space is only getting more crowded.

つまり、AIチップはたくさんあり、この分野はますます混み合ってきています。

So let's take a pause to break it all down.

そこで、一度立ち止まって、すべてを整理してみましょう。

様々なカテゴリーのAIチップについてです。

What's different good and bad about them?

それぞれの良い点と悪い点は何でしょうか？

Each and a brief look at all the major companies getting in on the AI chip making trend.

そして、AIチップ製造のトレンドに乗っている主要な企業を簡単に見ていきましょう。

For a brief moment in October, Nvidia was the first company ever to reach a $5 trillion valuation thanks to its original gaming engine, the GPU becoming king of AI chips.

10月のある短い期間、Nvidiaは、そのオリジナルのゲームエンジンであるGPUがAIチップの王様になったことで、時価総額5兆ドルに達した最初の企業となりました。

では、具体的に何がAI向けにチップを最適化するのでしょうか？

GPU in this case was really purpose built to deliver parallel programming because when you think about rendering an image or in a scene, you need to calculate all those pixels at once.

この場合のGPUは、画像のレンダリングやシーンのレンダリングでは、すべてのピクセルを一度に計算する必要があるため、並列プログラミングを提供するために本当に目的を持って作られました。

And so AI really lends itself to taking advantage of that capability.

そして、AIはまさにその能力を活用することに適しています。

To understand how GPUs became synonymous with AI, let's go back to 2012 to what many consider AI's big bang moment.

GPUがどのようにAIとほぼ同義になったかを理解するために、2012年、多くの人がAIのビッグバンと考える瞬間に戻りましょう。

Alexnet it was a new, incredibly accurate neural network that obliterated the competition during a prominent image recognition contest.

Alexnetは、著名な画像認識コンテストで競合を圧倒した、新しく信じられないほど正確なニューラルネットワークでした。

Turns out, the same parallel processing used by Nvidia GPUs to render lifelike graphics is also great for training neural networks, where a computer learns from data rather than relying on a programmer's code.

Nvidia GPUがリアルなグラフィックをレンダリングするために使用する並列処理は、コンピューターがプログラマーのコードに依存するのではなく、データから学習するニューラルネットワークのトレーニングにも非常に適していることがわかりました。

The researchers took a GPU and said, I'm going to hack it to get it to expose the parallel computation capabilities to unlock that performance for the deep learning use case.

研究者たちはGPUを取り、「これをハッキングして、ディープラーニングのユースケースでそのパフォーマンスを解き放つために、並列計算機能を公開させよう」と言いました。

While AI workloads are usually accelerated on a GPU or custom asic, it still often needs a host central processing unit cpu, like the Grace in Nvidia's Grace Blackwell Server Rack system.

AIワークロードは通常GPUまたはカスタムASICで加速されますが、NvidiaのGrace Blackwell Server Rack systemにあるGraceのようなホストCPUが依然として必要となることがよくあります。

But while a CPU has a small number of powerful cores running sequential general purpose tasks, GPUs have thousands of smaller cores more narrowly focused on parallel math like matrix multiplication, used to process multidimensional data structures known as tensors.

しかし、CPUは逐次的な汎用タスクを実行する少数の強力なコアを持つのに対し、GPUは行列乗算のような並列計算に特化した数千の小さなコアを持ち、テンソルとして知られる多次元データ構造を処理するために使用されます。

This ability to perform many operations simultaneously makes GPUs ideal for the two main phases of AI training and inference.

多くの操作を同時に実行できるこの能力により、GPUはAIのトレーニングと推論という2つの主要なフェーズに最適です。

Training is teaching the AI model to learn from patterns in large amounts of data, while inference uses the AI to make decisions based on new information.

トレーニングは、AIモデルが大量のデータ内のパターンから学習するように教えることであり、推論は、AIを使用して新しい情報に基づいて決定を下すことです。

The way AI shows up in everyday applications, whether it's the way you buy your coffee on your Starbucks app or how you interact with Salesforce for work, or speaking to us through our EarPods, that is being done through inference.

Starbucksアプリでコーヒーを購入する方法、仕事のためにSalesforceとやり取りする方法、またはEarPodsを通して私たちと話す方法など、AIが日常のアプリケーションに表示される方法は、推論を通じて行われています。

Nvidia sells its GPUs directly to AI companies like in a recent deal to sell at least 4 million to OpenAI and to foreign governments including South Korea, Saudi Arabia and the UK.

Nvidiaは、OpenAIに少なくとも400万個を販売する最近の契約や、韓国、サウジアラビア、英国などの外国政府への販売など、AI企業にGPUを直接販売しています。

It also sells GPUs to cloud providers like Amazon, Microsoft and Google, who go on to rent them out by the hour, minute or second.

また、Amazon、Microsoft、GoogleなどのクラウドプロバイダーにもGPUを販売しており、それらは時間、分、または秒単位で貸し出されています。

NvidiaにはGPUレンタルプログラムもあります。

Today, systems that can handle AI workloads are in such high demand, One of these 72 Blackwell server racks sells for around $3 million, and

現在、AIワークロードを処理できるシステムは非常に需要が高く、これらのBlackwellサーバーラック72台のうちの1台は、約300万ドルで販売されており、

Nvidia told us it's shipping 1,000 each week.

Nvidiaは毎週1,000台を出荷していると述べています。

And for Nvidia, they're looking to sell the entire system, not just the chip, because when you think at that system level, you get more efficiencies in terms of speed and power and performance.

そしてNvidiaにとって、システム全体を販売することを目指しており、チップだけではなく、システムレベルで考えると、速度、電力、パフォーマンスの点でより多くの効率が得られるからです。

Of course, Nvidia isn't the only one making Rackscale GPU systems optimized for AI.

もちろん、AIに最適化されたRackscale GPUシステムを製造しているのはNvidiaだけではありません。

Its top competitor, Advanced Micro Devices AMD has seen major gains with its Instinct GPU line and major commitments from OpenAI and Oracle.

そのトップ競合であるAdvanced Micro Devices AMDは、Instinct GPUラインで大きな成果を上げており、OpenAIやOracleから大きなコミットメントを得ています。

A big difference in AMD GPUs is that they use a largely open source software EcoSystem, while Nvidia GPUs are tightly optimized around CUDA, Nvidia's proprietary software platform.

AMD GPUの大きな違いは、主にオープンソースのソフトウェアエコシステムを使用しているのに対し、Nvidia GPUはNvidia独自のソフトウェアプラットフォームであるCUDAを中心に tightly optimized されている点です。

Nvidia says its next generation Rubin GPU will be in full production next year.

Nvidiaによると、次世代のRubin GPUは来年フル生産される予定です。

This is just an incredibly beautiful computer.

これは信じられないほど美しいコンピューターです。

In the early boom days of large language models, compute intensive training has been key, a perfect job for GPUs, but

大規模言語モデルの初期のブーム期には、計算集約的なトレーニングが鍵となり、GPUに最適な仕事でしたが、

as the models mature, more and more inference is needed.

モデルが成熟するにつれて、推論の必要性がますます高まっています。

Now post training techniques have been introduced to make these models very capable.

現在、これらのモデルを非常に高性能にするための、トレーニング後の技術が導入されています。

Now to extract the value you need to go to inference and so that's how people actually use AI, is through inference.

さて、価値を引き出すには推論に進む必要があり、それが人々が実際にAIを使用する方法、つまり推論を通じてです。

Inference can happen on less powerful chips programmed for more specific tasks.

推論は、より具体的なタスク向けにプログラムされた、それほど強力ではないチップでも実行できます。

Enter custom asics, application specific integrated circuits and every major cloud provider designing their own.

カスタムASIC、つまりアプリケーション特定集積回路が登場し、主要なクラウドプロバイダーはそれぞれ独自に設計しています。

While a GPU is like a Swiss army knife, able to do many kinds of parallel math for different AI workloads, think of an ASIC like a single purpose tool, very efficient and fast, but

GPUは、さまざまなAIワークロードに対応できる並列計算を数多くこなせるスイスアーミーナイフのようなものですが、ASICは単一目的のツールのように、非常に効率的で高速ですが、

hardwired to do the exact math for one type of job.

1種類のジョブに最適な計算を行うようにハードワイヤードされています。

They can be much, much more efficient in running those workloads, but

これらのワークロードを実行する上ではるかに効率的になる可能性がありますが、

when you specialize them, you can't change them once they're already carved into silicon.

特殊化すると、シリコンに彫り込まれたら変更できなくなります。

And so there's a trade off in terms of flexibility.

そのため、柔軟性という点でトレードオフがあります。

While Nvidia GPUs cost upwards of $40,000 and can be hard to get, startups rely on them because it's even more costly to make your own custom ASIC for AI, it is hugely expensive.

NvidiaのGPUは4万ドル以上することも多く、入手も困難ですが、スタートアップはAI用のカスタムASICを自社で作る方がさらにコストがかかるため、GPUに頼っています。

Costs minimum tens and often hundreds of millions of dollars.

そのコストは最低でも数千万ドル、多くの場合数億ドルにもなります。

But for the biggest cloud providers who can't afford them, custom Asics pay off because they're more power efficient and reduce reliance on Nvidia.

しかし、それらを導入できない最大のクラウドプロバイダーにとっては、カスタムASICはより電力効率が高く、Nvidiaへの依存を減らせるため、費用対効果が高くなります。

They want to bring cost of AI down, they want to have a little bit more control over the workloads that they build.

彼らはAIのコストを下げたいと考えており、構築するワークロードに対してもう少しコントロールしたいと思っています。

But at the same time they're going to continue to work very closely with Nvidia, with amd, because they also need the capacity.

しかし同時に、容量も必要としているため、NvidiaやAMDとは引き続き非常に緊密に連携していくでしょう。

Google was the first to make a custom ASIC for AI acceleration, coining the term Tensor Processing unit when its first ASIC came out in 2015.

GoogleはAIアクセラレーション用のカスタムASICを最初に開発した企業であり、2015年に最初のASICが登場した際にTensor Processing unitという言葉を生み出しました。

The TPU also helped lead to the invention of the transformer at Google in 2017, the architecture powering almost all modern AI.

TPUは、2017年にGoogleで、現代のほぼすべてのAIを支えるアーキテクチャであるTransformerの発明にも貢献しました。

We got a tour at Google's chip lab in 2024.

2024年にGoogleのチップラボを見学しました。

There's actually four chips inside there.

実際、中には4つのチップが入っています。

Actually two of those are connected to a host and machine that has CPUs in it.

実際、そのうち2つはCPUを搭載したホストとマシンに接続されています。

And then all these colorful cables are actually linking together all of the Trillium chips to work as one large supercomputer.

そして、これらのカラフルなケーブルは、すべてのTrilliumチップをリンクさせて、1つの巨大なスーパーコンピューターとして機能させています。

A decade after the first tpu, Google just released Ironwood, its seventh generation and with it a big deal with Anthropic to train its LLM Claude on up to a million TPUs.

最初のTPUから10年後、Googleは第7世代となるIronwoodをリリースし、Anthropicと提携して最大100万個のTPUでLLM Claudeをトレーニングすることになりました。

Some people even think that they're technically on par or even superior to Nvidia.

中には、Nvidiaに技術的に匹敵するか、それ以上だと考える人もいます。

But traditionally Google has only used them for in house purposes.

しかし、従来Googleはこれらを社内用途にのみ使用してきました。

There's a lot of speculation that in the longer run Google might open up access to TPUs more broadly.

長期的にはGoogleがTPUへのアクセスをより広く開放するのではないかという憶測が多くあります。

Amazon Web Services was the next cloud provider to design its own AI chips after acquiring Israeli chip startup Annapurna Labs in 2015, where Ron Diamant has worked since day one.

Amazon Web Servicesは、2015年にイスラエルのチップスタートアップであるAnnapurna Labsを買収した後、独自のAIチップを設計した次のクラウドプロバイダーであり、Ron Diamantは初日からそこで働いています。

AWS announced Inferentia in 2018 and launched Trainium in 2022, now approaching its third generation.

AWSは2018年にInferentiaを発表し、2022年にTrainiumをローンチしました。これは現在第3世代に近づいています。

Think of Trainium like a cluster of workshops with many small flexible tensor engines, while Google's TPU is like one big factory conveyor belt with one big rigid grid specialized for matrix math.

Trainiumは、多くの小さな柔軟なテンソルエンジンを持つワークショップのクラスターのようなものだと考えてください。一方、GoogleのTPUは、行列演算に特化した、1つの大きな固定グリッドを持つ巨大な工場のコンベアベルトのようなものです。

The difference between the names is quite telling, but

名前の違いは非常に示唆に富みますが、

over time we've seen that Trainium chips can serve both inference and training workloads quite well.

長期的には、Trainiumチップが推論とトレーニングの両方のワークロードにうまく対応できることがわかっています。

On average we see that trainium provides between 30 and 40% better price performance compared to other hardware vendors in AWS.

平均して、TrainiumはAWSの他のハードウェアベンダーと比較して、30〜40％優れた価格性能を提供しています。

In October we went to Northern Indiana for the first on camera tour of Amazon's biggest AI data center, where Anthropic is training its models on half a million Trainium two chips behind me right now they are working on delivering these towers.

10月には、インディアナ州北部でAmazon最大のAIデータセンターの初めてのカメラ撮影ツアーに行きました。そこでは、Anthropicが私の後ろにある50万個のTrainium 2チップでモデルをトレーニングしており、現在これらのタワーの納品に取り組んでいます。

Two of them together is going to make up one Ultra server.

そのうちの2つが合わさって、1つのUltraサーバーになります。

And what's especially interesting is there are no Nvidia GPS GPUs in there, although AWS is filling its other data centers with lots of Nvidia GPUs to feed hungry AI customers like OpenAI.

特に興味深いのは、NvidiaのGPUが一切使われていないことです。ただし、AWSはOpenAIのようなAI顧客の需要を満たすために、他のデータセンターには大量のNvidia GPUを導入しています。

The investment they're making in our platform is still significant and significantly more than you're seeing even in some of the upcoming ASIC deployments.

当社のプラットフォームへの投資は依然として大きく、今後のASIC展開の一部よりも大幅に大きくなっています。

And we can't talk about custom ASICs without mentioning Broadcom and its top competitor Marvell, which act as backend partners so clients don't have to hire full silicon teams to handle everything in house.

カスタムASICについて語るなら、Broadcomとそのトップ競合であるMarvellに言及しないわけにはいきません。これらの企業はバックエンドパートナーとして機能し、クライアントがすべての作業を社内で処理するために完全なシリコンチームを雇用する必要がなくなります。

All of the big hyperscalers actually that have ASIC programs partner with at least one chip design company, Broadcom being the most important, which helps provide the IP and the know how and the networking.

実際、ASICプログラムを持つすべての主要なハイパースケーラーは、少なくとも1つのチップ設計会社と提携しています。Broadcomが最も重要で、IP、ノウハウ、ネットワーキングの提供を支援しています。

And so you've seen Broadcom in particular be one of the biggest beneficiaries of the AI boom.

そのため、特にBroadcomがAIブームの最大の受益者の一つであることがわかります。

Broadcom helped build Google's TPUs, Meta's training and inference accelerator launched in 2023 and now a huge new deal to help OpenAI build its own custom ASICs starting in 2026.

Broadcomは、GoogleのTPU、Metaの2023年にローンチされたトレーニングおよび推論アクセラレータ、そして現在2026年から始まるOpenAI独自のカスタムASIC構築を支援する大規模な新契約の構築に貢献しました。

We see Broadcom winning 70, maybe even 80% of this market.

Broadcomはこの市場の70%、場合によっては80%を獲得すると見ています。

We see this market accelerating at a mid double digit CAGR over the next five years.

この市場は今後5年間で年平均成長率が2桁台半ばで加速すると見ています。

Microsoft is also getting into the ASIC game, hoping to primarily use its own Maya chips in its Azure data centers, although little has been revealed since plans were announced in 2023 and its next Maya chip is facing delays.

MicrosoftもASIC分野に参入しており、主にAzureデータセンターで自社製Mayaチップを使用することを目指していますが、2023年に計画が発表されて以来、ほとんど情報がなく、次のMayaチップは遅延に直面しています。

Intel has its own Goudy line of custom Asics for AI.

Intelには、AI向けのカスタムASICであるGoudyシリーズがあります。

Tesla has announced an ASIC And Qualcomm is breaking into data center chips with the AI 200.

TeslaはASICを発表し、QualcommはAI 200でデータセンターチップ市場に参入しています。

Of course, there's also a slew of startups going all in on custom AI chips too, like Cerebras making huge full wafer AI chips and Grok with inference focused language processing units.

もちろん、Cerebrasが巨大なフルウェハーAIチップを製造したり、Grokが推論に特化した言語処理ユニットを開発したりするなど、カスタムAIチップに注力する多くのスタートアップもあります。

The final big category of AI chips are those made for running edge AI on device instead of in the cloud.

AIチップの最後の大きなカテゴリは、クラウドではなくデバイス上でエッジAIを実行するために作られたチップです。

You might want to be able to run an AI model locally on your personal device, even a smartphone.

スマートフォンであっても、個人のデバイスでAIモデルをローカルで実行できるようになりたいと思うかもしれません。

And so there may be as part of the processor in that chip a module that has AI processing capability, so you don't have to have communication all the way back to a data center and you can preserve privacy of your data on your phone.

そのため、そのチップのプロセッサの一部にAI処理能力を持つモジュールが含まれている可能性があり、データセンターまで常に通信する必要がなくなり、携帯電話上のデータのプライバシーを保護できます。

In npu, Neural processing unit is a major edge AI chip, a dedicated AI accelerator that's integrated into a phone or laptop's primary chip, what's called an SoC.

NPU（ニューラルプロセッシングユニット）は、主要なエッジAIチップであり、スマートフォンやラップトップの主要チップ、いわゆるSoCに統合された専用AIアクセラレータです。

A system on a chip which is kind of a chip that has like many different modules in it that do different aspects of the computation.

SoC、つまり、さまざまな計算処理を行う多くの異なるモジュールを搭載したチップのようなものです。

Because obviously in a phone you need to have a very compressed system that is able to do lots of things.

スマートフォンでは、多くのことをこなせる非常に圧縮されたシステムが必要だからです。

And so it's not kind of a separately packaged AI chip.

ですから、これは別個にパッケージ化されたAIチップというわけではありません。

They take up less silicon and therefore they cost less, often substantially less than a big data center chip would.

より少ないシリコンで済み、そのため、データセンターの大きなチップよりも、しばしば大幅に安価になります。

NPU's enabling AI and PCs are primarily made by Qualcomm, intel and AMD for MacBooks.

NPUはPCのAIを可能にし、主にQualcomm、Intel、AMDがMacBook向けに製造しています。

Apple's in house M series chips include a dedicated neural engine too, although Apple doesn't use the term NPU.

Appleの自社製Mシリーズチップにも専用のNeural Engineが搭載されていますが、AppleはNPUという言葉は使いません。

Similar neural accelerators, tiny processors dedicated to AI math, are now built into the latest iPhone A series chips too, which we got to see in September.

AI計算専用の小さなプロセッサである同様のNeural Acceleratorも、9月に発表された最新のiPhone Aシリーズチップに組み込まれています。

デバイス上のAIはなぜそれほど重要なのでしょうか？

We know that when we can do things on device, we are able to manage people's privacy in the best way.

デバイス上で物事を処理できる場合、人々のプライバシーを最善の方法で管理できることを私たちは知っています。

The other thing about it is it is efficient for us, it is responsive.

もう一つの点は、私たちにとって効率的であり、応答性が良いということです。

字幕リスト動画再生

NVIDIA GPUとGoogle・AmazonのAIチップ比較 (How Nvidia GPUs Compare To Google’s And Amazon’s AI Chips)

specific

process

dedicated

acquire