throughput
US /ˈθruˌpʊt/
・UK /ˈθru:pʊt/
C2 上級
n. (u.)不可算名詞情報処理量
The computer's hard drive crashed due to the overloaded throughput
動画字幕
Nvidia 2024 Computex基調講演：15分で全内容を公開 (Nvidia's 2024 Computex Keynote: Everything Revealed in 15 Minutes)
- It has to distribute the workload across multiple GPUs, tensor parallelism, pipeline parallelism, data parallelism, all kinds of parallelism, expert parallelism, all kinds of parallelism, distributing the workload across multiple GPUs, processing it as fast as possible because if you are in a factory, if you run a factory, your throughput directly correlates to your revenues.
しかし、AIを実行するコンピューティング・スタックは非常に複雑だ。
- It has to distribute the workload across multiple GPUs, tensor parallelism, pipeline parallelism, all kinds of parallelism, expert parallelism, all kinds of parallelism, distributing the workload across multiple GPUs, processing it as fast as possible because if you are in a factory, if you run a factory, your throughput directly correlates to your revenues.
しかし、AIを実行するコンピューティング・スタックは非常に複雑だ。
AMD 2024 Computex 基調講演：12分で全発表内容 (AMD's 2024 Computex Keynote: Everything Revealed in 12 Minutes)
- It also enables us to deliver much more.We also designed Zen5 with a wider CPU engine and instruction window to run more instructions in parallel for leadership compute throughput and efficiency.
また、Zen5では、より広いCPUエンジンと命令ウィンドウを設計し、より多くの命令を並列に実行することで、リーダーシップの計算スループットと効率を高めています。
- As a result, compared to Zen4, we get double the instruction bandwidth, double the data bandwidth between the cache and floating point unit, and double the AI performance with full AVX-512 throughput.
その結果、Zen4と比較して、命令帯域幅が2倍、キャッシュと浮動小数点ユニット間のデータ帯域幅が2倍、AVX-512のフルスループットによるAI性能が2倍になりました。
インテルのLunar Lake AIチップイベント：10分でわかる全容 (Intel's Lunar Lake AI Chip Event: Everything Revealed in 10 Minutes)
- We're projected to deliver 40% faster time to train than H100s, and 1.5x versus H200s, and faster inferencing than H100s, and delivering that 2.3x performance per dollar in throughput versus H100s.
私たちは、H100sと比較して40％、H200sと比較して1.5倍、H100sと比較してより高速な推論を実現し、H100sと比較してスループットでドルあたり2.3倍のパフォーマンスを達成すると予測しています。
- We're projected to deliver 40% faster time to train than H100s and 1.5x versus H200s and faster inferencing than H100s and delivering that 2.3x performance per dollar in throughput versus H100s.
PyTorchやVLLMのようなオープンソースのフレームワークもサポートしている。
スウィートグリーンが毎月数百万ドルを失っている理由 | WSJ 経済学 (Why Sweetgreen Is Losing Millions of Dollars Every Month | WSJ The Economics Of)
- Probably the biggest improvement for our customers is much faster throughput.
顧客にとって最大の改善点は、スループットが大幅に向上したことだろう。
- Probably the biggest improvement for our customers is much faster throughput.
スウィート・グリーンはEBITDAと呼ばれる指標に基づいてのみ利益を上げている。EBITDAは税金、買収費用、リストラ費用、株式報酬など様々な費用を除外したものである。
AIはいつ放射線科医に取って代わるのか？🤖 (When Will Artificial Intelligence Replace Radiologists? 🤖)
- increasing throughput.
スループットの増加。
- and increasing throughput.
AIによる支援と効率の向上によって、増加する不足に追いつくことができるかどうかは、現時点では予測不可能です。
ジェットコースターエンジニアだけど質問ある？| Tech Support | WIRED Japan (ジェットコースターのエンジニアだけど質問ある？| Tech Support | WIRED Japan)
- Parks are also concerned about throughput, like how many people can ride that ride every hour.
ジェットコースターの長さはコストの関数である。
- Parks are also concerned about throughput, like how many people can ride that ride every hour.
公園はまた、1時間に何人がその乗り物に乗れるかといったスループットも気にしている。
CXL 4.0 仕様解説ウェビナー (Introducing the CXL 4.0 Specification Webinar)
- There's primary benefit that folks are seeing is low latency and high throughput that is difficult to see with some of the other technologies.
人々が実感している主なメリットは、他のいくつかの技術では見られない低遅延と高スループットです。
- There's primarily a benefit that folks are seeing is low latency and high throughput, right?
どちらを選ぶべき状況はどのような場合ですか？
宇宙で世界をつなぐ (Connecting the World Through Space)
- Multiple orbits working together including Geo, MEO and LEO enable greater access and faster throughput.
Geo、MEO、LEOを含む複数の軌道が連携することで、より大きなアクセスと高速なスループットが可能になります。
- Multiple orbits working together, including GEO, MEO, and LEO, enable greater access and faster throughput.
Geo、MEO、LEOを含む複数の軌道が連携することで、より大きなアクセスと高速なスループットが可能になります。
DeepSeekを支えるエンジニアリングの秘密 | YC Decoded (The Engineering Unlocks Behind DeepSeek | YC Decoded)
- This helped the v2 model reduce its KV cache size by 93.3% and boosted its maximum generation throughput to 5.76 times.
これにより、v2モデルはKVキャッシュサイズを93.3％削減し、最大世代スループットを5.76倍に向上させた。
- This helped the v2 model reduce its KVCache size by 93.3% and boosted its maximum generation throughput to 5.76 times.
MTPは、v3が各ステップで複数の将来のトークンを予測することを可能にする。