AIデータセンターの冷却:NVIDIA GPUロードマップに基づいた計画
AIアクセラレータのラック電力は、現在のラックあたり約100kWから600kW、さらにそれ以上へと上昇しており、冷却アーキテクチャはデータセンター設計における決定的な制約になりつつあります。空冷は、低密度から中密度の範囲では高密度AIデータセンターに有効ですが、ラック電力が上昇し続けるにつれて、チップ直結液冷が、大幅に高い電力密度を吸収するための重要な経路として浮上しています。コールドプレート内の相変化を利用する2相チップ直結液冷は、密度曲線をさらに拡張し、200kWから1MW+までのラック電力レベルに必要な拡張性を提供します。このような状況において、将来を見据えた データセンター向け液冷システムこれはもはや将来のアップグレードではなく、次世代AIインフラストラクチャを展開するための戦略的な前提条件である。
NVIDIAのGPUロードマップは、ラックレベルの電力密度をかつてないペースで押し上げています。現在のBlackwellクラスのラックは100~130kWの範囲ですが、将来のRubin Ultraプラットフォームはラックあたり600kWに迫り、その後のプラットフォームではさらに高くなる見込みです。AIデータセンターの熱設計範囲はあらゆる面で縮小しています。そのため、冷却アーキテクチャは、単一世代プラットフォームへの適合から、複数世代のロードマップ計画へと進化する必要があります。 AIデータセンターの液冷今日下される決定によって、熱容量が今後数世代にわたるGPUの展開に追いつくか、それともボトルネックとなって展開を阻害するかが決まるだろう。
この変化は、電力密度曲線として理解するのが最適であり、各冷却技術はそれぞれ異なる適用範囲を占めています。空冷および強化空冷は、低密度から中密度の範囲で依然として有効です。単相直接チップ液冷は、中密度から高密度の範囲をカバーし、空冷から高密度液冷への重要な橋渡しとなります。二相直接チップ液冷は、相変化熱伝達によって非常に高い熱流束を吸収し、直接チップ冷却の拡張範囲をさらに高密度領域まで拡大します。液浸冷却は、それ自体がシステムレベルのアーキテクチャであり、空冷や直接チップ冷却の線形拡張ではなく、ITハードウェアを誘電性流体に浸漬することによって熱伝達インターフェースと動作モデルを完全に変革するものです。 高密度データセンター冷却短期的な展開において最も重要な領域は、極端に低い領域でも極端に高い領域でもなく、その中間の移行帯である。この領域では、空冷が限界に近づき、単相のチップ直結型液冷がオプションから標準となり、二相ソリューションがさらに余裕をもたらす。
この移行帯では、空気の流れの構成、ホット/コールドアイルの封じ込め、部屋のレイアウト、および空気量管理が適切に処理されていれば、ラック密度が低い~中程度の場合には、空冷は信頼できる選択肢であり続けます。リアドア熱交換器(RDHx)は、従来の空冷の範囲を拡張し、施設条件に応じてラックあたり40~80kWの範囲まで押し上げ、空冷から液体冷却アーキテクチャへの道のりの中間段階として機能します。しかし、それ以上になると、空気の流れの需要の増加、ファンのエネルギーの増加、スペースの制限、騒音規制、および統合の複雑さによって、空冷は徐々に制約を受けるようになります。従来の空冷レイアウトは、およそ30~40kWを超えると非効率になり、RDHxを使用しても、実用的な限界は通常40~80kWで止まります。これがまさに、 ラック冷却サプライヤー高密度化計画の中心に液体冷却ソリューションを据えている企業は、高密度化における効率性、予測可能性、および施設への適応性において、液体冷却が空冷よりも優れていると考えている。
液浸冷却には主に 2 つの形態があります。単相液浸は、液体を使用して熱を吸収し、相変化なしに熱交換器に循環させます。一方、二相液浸は、デバイス表面で流体が沸騰し、凝縮器表面で再凝縮することに依存しており、相変化を利用して熱伝達効率を高めます。液浸は、中~高ラック相当電力密度をサポートし、新設または高度にカスタマイズされた施設に適していますが、ハードウェアの互換性、タンクのメンテナンス、流体管理、構造負荷、および改修の課題があります。対照的に、チップ直接冷却 (DTC) は、熱源で熱を攻撃します。コールドプレートは、チップまたはパッケージの近くで熱を抽出し、熱抵抗を低減し、チップからラック液ループを経て施設の水まで制御された熱経路を確立します。一般的な DTC 展開は、コールドプレート、チューブ、クイックディスコネクト、ラックマニホールド、 データセンター用空気・液体CDU(冷却液分配ユニット)、および建物の冷水システムへの熱交換インターフェース。

DTCでは、単相および二相のコールドプレートの両方でAIアクセラレータを冷却できます。適切な選択は、ターゲットラック密度、チップ熱流束、施設水温、圧力損失制限、メンテナンス要件、および将来の拡張ニーズによって異なります。DTCが基盤機能になりつつある理由は明らかです。最新のアクセラレータチップの局所熱流束は100 W/cm²を超えることが多く、主要なエンジニアリング上の問題は、室内レベルの放熱からチップレベルの熱抽出へと移行しています。コールドプレートがチップで効果的に熱を除去できない場合、エアフローの組織化、リアドア冷却、または室内空調能力をどれだけ行っても、接合部温度を制御することはできません。 コールドプレートCDUメーカーエンジニアリングが決定的な要素となる。効果的なDTCパッケージは、チップの熱流束、冷却液の流量と分布の均一性、マイクロチャネル構造による圧力損失、供給水の温度と接近温度の限界、および動的負荷下での接合部温度の余裕といった問題に対処する必要がある。
単相コールドプレートは、成熟度、予測可能な性能、既存の水またはグリコールシステムとの容易な統合性を備えているため、現在の多くの Blackwell クラスの展開や、近い将来の Rubin 展開の一部に適しています。二相コールドプレートは、プレート内部の作動流体の相変化を利用して、低い流量で非常に高い熱流束を吸収し、チップへの直接冷却の範囲を高密度ラックにまで拡張します。この機能は、GPU ロードマップが 200 kW から 1 MW 以上のラック範囲に向かうにつれて、ますます重要になります。したがって、単相と二相の選択は、点熱伝達性能のみに基づいて行うべきではなく、ラック電力、設備条件、運用能力、および将来のプラットフォームロードマップを考慮する必要があります。業界が次世代を設計するにつれて、 GPUキャビネットの空気・液体CDUソリューションの目的は、複雑さをそれ自体に求めることではなく、現在および将来のGPUプラットフォームの電力密度の上昇を吸収し続ける冷却アーキテクチャを実現することです。
データセンターの熱インフラは通常、長いライフサイクルを持ちますが、GPUプラットフォームは急速に反復されます。冷却アーキテクチャが単一のGPU世代に合わせて設計されている場合、1つまたは2つのプラットフォームサイクルでボトルネックが発生する可能性があります。熱アーキテクチャを複数世代のGPUロードマップに合わせることで、改修、遊休インフラ、過剰設計、不必要な設備投資のリスクが低減され、熱制限による導入遅延も削減されます。つまり、熱計画を将来を見据えた設計規律として扱う必要があります。初期段階の設計では、予想されるチップTDP、ラック電力密度、供給水温度、CDU容量、流量分布、冷却技術の切り替えポイントを考慮する必要があります。施設側も、供給水温度、CDU容量、ラックレベルの流量分布、冷水システムの能力、拡張スペースを考慮して、これに追随する必要があります。そうしないと、最も高性能なサーバー側のコールドプレートであっても、施設側が サーバーラック液冷式CDU背後の水システムへの負荷が新たな制約となる。NVIDIAの持続的な電力密度増加により、冷却アーキテクチャはAIデータセンター展開における重要な変数となっているため、賢明な方法は、単一世代ではなく、今後予想される複数世代にわたる電力密度増加の傾向を見据えて冷却を計画することである。
急速に進化するAIハードウェアを背景に、将来を見据えた熱設計を現実のものとするためには、拡張性と包括性を備えた液冷ハードウェアが不可欠である。 AIの発展に伴い、その冷却という課題も増大しています。そこでEXTRCOOLの出番です。CDU、コールドプレート、マニホールド、配管を一体化したターンキー方式の液冷システムを提供します。既製のユニットを選択することも、お客様のご要望に合わせた構成を共同で設計することも可能です。当社の設計は、熱除去効率を最大化し、エネルギー消費を最小限に抑え、環境負荷を低減します。世界中のギガワット規模の施設で完璧な運用実績を誇ります。一分一秒が重要なクリティカルなアプリケーションには、EXTRCOOLが最適な選択肢です。製品ラインナップの全貌をご覧になるか、カスタム見積もりをご依頼ください。 https://www.extrcool.com

