Name: Amazon EC2 P6e-GB200 UltraServersのご紹介：フロンティアAIをスケールアップ｜Amazon Web Services (Introducing Amazon EC2 P6e-GB200 UltraServers: Powering Frontier AI at Scale | Amazon Web Services)
Uploaded: 2025-08-30T13:14:48.000Z
Duration: 7 min 59 s
Description: VoiceTubeの動画で発音を聞きながら英語表現を覚えよう！学べる英語：

At AWS, it's our mission to offer the best place for AI training and inference.

AWSでは、AIのトレーニングと推論に最適な場所を提供することを使命としています。

And doing this means building the best compute infrastructure possible to power the most innovative applications of today and tomorrow.

そして、このことは、今日と明日の最も革新的なアプリケーションに電力を供給するために、可能な限り最高のコンピュート・インフラを構築することを意味します。

And that's why I'm super excited to say that NVIDIA Blackwell is now here on AWS.

だからこそ、NVIDIA BlackwellがAWSに登場したことに、とても興奮しています。

NVIDIA Blackwell marks a new chapter for accelerated computing.

エヌビディア・ブラックウェルは、アクセラレーテッド・コンピューティングの新たな章を開く。

It delivers significant improvements in performance, cost, and energy efficiency, enabling developers to tackle the world's most challenging problems.

性能、コスト、エネルギー効率の大幅な向上を実現し、開発者は世界で最も困難な問題に取り組むことができる。

AWS is now bringing the best of NVIDIA Blackwell to the cloud in two system configurations.

AWSは現在、2つのシステム構成でNVIDIA Blackwellのベストをクラウドに提供しています。

Today we're announcing the general availability of both the Amazon EC2 P6 instance, accelerated by NVIDIA's HGX B200, and Amazon's EC2 P6e Ultra Server, accelerated by NVIDIA's GB200

本日、NVIDIAのHGX B200によって高速化されたAmazon EC2 P6インスタンスと、NVIDIAのGB200によって高速化されたAmazon EC2 P6e Ultra Serverの一般提供を発表します。

NVL72, our most powerful EC2 instance ever.

これまでで最もパワフルなEC2インスタンス、NVL72。

Our NVIDIA HGX B200 delivers top performance for x86 scale-up systems.

当社のNVIDIA HGX B200は、x86スケールアップシステムで最高のパフォーマンスを発揮します。

And our NVIDIA GB200 NVL72 is a rack-scale, liquid-cooled supercomputer that enables 72

また、NVIDIA GB200 NVL72は、ラック・スケールの液冷スーパーコンピュータであり、72台のNVIDIA GB200 NVL72を使用することができます。

NVIDIA Blackwell GPUs to act as a single massive GPU.

NVIDIA Blackwell GPUは、単一の巨大GPUとして機能する。

These instances will help power training and inference for the latest frontier models, providing up to 30 times greater performance than NVIDIA Hopper.

これらのインスタンスは、最新のフロンティアモデルのトレーニングと推論を支援し、NVIDIA Hopperの最大30倍のパフォーマンスを提供する。

Blackwell on AWS sets a new bar for performance in EC2, but it's more than meets the eye.

Blackwell on AWSはEC2におけるパフォーマンスの新たな基準を打ち立てたが、それは見た目以上のものだ。

Let's take a closer look at the unique design decisions and innovations we've made to bring

そのユニークなデザイン上の決断と革新性を詳しく見てみよう。

最初の分野はネットワークだ。

Modern agentic AI workloads are presenting ever-increasing demands for bandwidth in the quest for optimal performance.

最新のエージェント型AIワークロードでは、最適なパフォーマンスを追求するために、帯域幅に対する要求がますます高まっています。

This requires solutions for both scaling out and scaling up.

そのためには、スケールアウトとスケールアップの両方のソリューションが必要だ。

For Blackwell's scaled-out network, we've opted to use our in-house networking stack, the Elastic Fabric Adapter.

Blackwellのスケールアウトされたネットワークでは、社内のネットワーク・スタックであるElastic Fabric Adapterを使うことにしました。

Developed by the AWS Nitro system, EFA leverages our latest generation of custom-designed Nitro controllers, allowing us to achieve up to 28.8 terabits per second of networking bandwidth per Ultra server, and scale to EC2 Ultra clusters with up to hundreds of thousands of GPUs.

AWS Nitroシステムによって開発されたEFAは、カスタム設計された最新世代のNitroコントローラを活用し、Ultraサーバーあたり最大28.8テラビット/秒のネットワーク帯域幅を実現し、最大数十万GPUのEC2 Ultraクラスタに拡張することができます。

But Nitro does more than allow us to scale these large clusters.

しかし、Nitroはこのような大規模クラスタのスケーリングを可能にするだけではない。

It allows us to further improve both the reliability and predictability.

これにより、信頼性と予測可能性の両方をさらに向上させることができる。

And that's because EFA runs over Scalable Reliable Datagram, or SRD, a bespoke, topology-aware networking protocol.

それは、EFAがSRD（Scalable Reliable Datagram）という、トポロジーを意識した特注のネットワーキング・プロトコル上で動作するからだ。

With SRD, Nitro and EFA automatically route traffic around failures on the network, avoiding slowdowns or downtime.

SRDにより、NitroとEFAは、ネットワーク上の障害を回避してトラフィックを自動的にルーティングし、速度低下やダウンタイムを回避する。

For the scaled-up network, the various GB200 compute trays are connected as a tightly coupled mesh through NVIDIA NVLink, which creates a single 72 Blackwell GPU NVLink domain with 132 terabits per second of total bandwidth, served as a single Ultra server.

スケールアップされたネットワークでは、さまざまなGB200コンピュートトレイがNVIDIA NVLinkを介して緊密に結合されたメッシュとして接続され、1秒あたり132テラビットの総帯域幅を持つ単一の72 Blackwell GPU NVLinkドメインが作成され、単一のUltraサーバとして提供されます。

To manage these NVLink switches, we leverage our Nitro-powered headnode.

これらのNVLinkスイッチを管理するために、私たちはNitroを搭載したヘッドノードを活用しています。

This reduces the number of network devices operating, with the NVLink network managed within the Nitro-trusted domain.

これにより、NVLinkネットワークはNitroの信頼されたドメイン内で管理され、動作するネットワークデバイスの数が減ります。

In a fast-moving space, with new platforms going from idea to production faster than ever before, the ability to detect performance issues or bugs is critical for maximizing reliability, security, and performance for customers.

新しいプラットフォームがこれまで以上に迅速にアイデアから本番稼動へと移行する動きの速い領域では、パフォーマンスの問題やバグを検出する能力は、顧客の信頼性、セキュリティ、パフォーマンスを最大化するために不可欠です。

With Nitro, we can gather a greater amount of telemetry, logging everything with respect to function of the hardware, providing us unique insight into detecting and understanding failures.

Nitroでは、より多くのテレメトリーを収集することができ、ハードウェアの機能に関するすべてを記録することで、故障を検出し理解するための独自の洞察を得ることができる。

But the Nitro difference goes beyond detection.

しかし、ニトロの違いは検出だけにとどまらない。

It fundamentally changes the way we apply patches and optimizations.

パッチや最適化の適用方法が根本的に変わるのだ。

Typically, infrastructure providers need to choose between keeping their infrastructure online around the clock, forgoing these updates, or taking their capacity offline to update, sometimes resulting in kicking customers off the hardware.

通常、インフラ・プロバイダーは、インフラを24時間オンラインに保ち、こうしたアップデートを見送るか、あるいはアップデートのためにキャパシティをオフラインにするかのどちらかを選択する必要があり、その結果、顧客をハードウェアから追い出してしまうこともある。

Nitro provides us the capability that no others in the industry have – live updates.

ニトロは、ライブアップデートという、この業界では他にはない機能を提供してくれる。

Live updates allow us to update system firmware transparently, while systems remain in operation.

ライブ・アップデートは、システムが稼動している間、透過的にシステム・ファームウェアを更新することを可能にする。

This means that customer workloads continue uninterrupted, with ever-improving reliability, security, and performance, with no downtime required.

これは、信頼性、セキュリティ、パフォーマンスを常に向上させながら、ダウンタイムなしで顧客のワークロードを中断することなく継続できることを意味する。

Lastly, in order to support the incredible compute density with GB200 NVL72 racks, we've moved towards a new first at AWS – liquid cooling.

最後に、GB200 NVL72ラックによる驚異的なコンピュート密度をサポートするために、私たちはAWS初の試みである液冷に取り組みました。

Blackwell represents the first liquid cooling hardware platform we've deployed at scale on AWS, and with it comes a unique set of goals and challenges.

Blackwellは、私たちがAWS上で大規模に展開した初めての液冷ハードウェア・プラットフォームであり、それに伴ってユニークな目標と課題がもたらされました。

This meant meeting the ravenous demand for AI infrastructure, which meant we had to scale fast and scale globally.

これは、AIインフラに対する旺盛な需要に応えることを意味し、迅速かつグローバルに規模を拡大する必要がありました。

When we looked at liquid cooling solutions, based on what's available in the market today, there were a few trade-offs.

現在市場で入手可能なものをベースに液冷ソリューションを検討したところ、いくつかのトレードオフがありました。

First would have been building liquid-cooled data centers from scratch – something that tends to take a while, with long lead times on the order of years.

まず、液体冷却データセンターをゼロから構築することになるが、これには時間がかかりがちで、数年単位の長いリードタイムを要する。

We knew those timelines wouldn't intersect with the availability of Blackwell.

私たちは、これらのタイムラインがブラックウェルの入手可能性と交差しないことを知っていた。

The second option would have been adopting some off-the-shelf solutions, but these didn't scale.

2つ目の選択肢は、既製のソリューションを採用することだったが、これは拡張性がなかった。

They would take up too much data center floor space, would still require major modifications to data centers, or increase water usage substantially.

データセンターの床面積が大きくなりすぎたり、データセンターに大きな改造が必要になったり、水の使用量が大幅に増えたりする。

And while some of these solutions could work for lower volumes at other providers, there simply wouldn't be enough liquid cooling capacity to support our scale.

このようなソリューションのいくつかは、他のプロバイダーの少量生産には有効かもしれないが、私たちの規模をサポートするのに十分な液冷能力はないだろう。

そこで私たちは、AWSでよくやることをやった。

We invented our own solution to have the best of both worlds.

私たちは両方の長所を併せ持つ独自のソリューションを考案した。

This is the in-row heat exchanger, or IRHX as we call it.

これがインロー熱交換器（IRHX）だ。

The IRHX is an Amazon-designed liquid cooling system.

IRHXはアマゾンが設計した液冷システムだ。

It can be installed with no changes to the air-cooled mechanical design and minimal changes to existing infrastructure, meaning it can be deployed in existing data centers as well as new builds.

空冷式の機械設計に変更を加えることなく、既存のインフラにも最小限の変更で設置できるため、新設だけでなく既存のデータセンターにも導入できる。

The IRHX was designed to allow us to scale fast, standardizing our equipment and supply chain, and has been built to spec for our standard rack dimensions to fit within our existing data centers.

IRHXは、機器とサプライチェーンを標準化し、迅速に拡張できるように設計されており、既存のデータセンター内に収まるよう、当社の標準ラック寸法に合わせて作られています。

There are three components to the IRHX, a water distribution cabinet, a pumping unit, and fan coils.

IRHXには、配水キャビネット、ポンプユニット、ファンコイルの3つのコンポーネントがある。

As the chips in the rack generate heat, cool liquid is pushed from the IRHX pumping unit to the servers.

ラック内のチップが発熱すると、冷却液がIRHXポンプユニットからサーバーに押し出される。

This liquid is distributed to the chips through a cold plate design co-innovated between AWS and NVIDIA, cooling the chips substantially.

この液体は、AWSとNVIDIAが共同開発したコールドプレート設計を通じてチップに分配され、チップを大幅に冷却する。

This warm liquid is then returned to the IRHX, being passed through the coils where fans cool the liquid back down while expelling heat out of the back and into an aisle of contained hot air.

この温かい液体はIRHXに戻され、コイルに通され、ファンが液体を冷やしながら、熱を背面から熱気の通路に排出する。

And unlike many publicly available options, the IRHX can scale efficiently by adding or subtracting fan coil units depending on the amount of cooling needed by the row.

また、一般に販売されている多くのオプションとは異なり、IRHXは、列が必要とする冷却量に応じてファンコイルユニットを追加または減算することで、効率的に拡張することができる。

As we like to say, with the IRHX, we don't need to design the data center around the rack.

IRHXがあれば、ラックを中心にデータセンターを設計する必要はありません。

With support for over 900 CUDAX libraries and AI models, NVIDIA Blackwell is now available for AWS customers to drive breakthroughs in science, industry, and the next era of AI reasoning.

900以上のCUDAXライブラリとAIモデルをサポートするNVIDIA Blackwellは、科学、産業、AI推論の次の時代におけるブレークスルーを推進するために、AWSの顧客が利用できるようになりました。

Blackwell is accessible directly in our P6 instances, accelerated by NVIDIA's HGX B200, and our P6e Ultra servers, accelerated by NVIDIA's GB200 NVL72, or through AWS managed offerings such as Amazon SageMaker HyperPod and NVIDIA DGX Cloud.

Blackwellは、NVIDIAのHGX B200によって高速化された当社のP6インスタンスや、NVIDIAのGB200 NVL72によって高速化された当社のP6e Ultraサーバー、またはAmazon SageMaker HyperPodやNVIDIA DGX CloudなどのAWSマネージド・オファリングを通じて直接アクセスできます。

Amazon EC2 P6e-GB200 UltraServersのご紹介：フロンティアAIをスケールアップ｜Amazon Web Services (Introducing Amazon EC2 P6e-GB200 UltraServers: Powering Frontier AI at Scale | Amazon Web Services)