図 1: 高密度波長分割多重パッケージ オプティクス (DWDMCPO) の主な利点。{1} (画像クレジット: Scintil Photonics)
データセンターの設計分野には、「可能な限り銅線ケーブルを使用し、光ファイバーが絶対に必要な場合にのみ光技術に頼る」という格言があります。長年にわたり、業界の現実的なアプローチは、物理法則によって技術アップグレードが強制されるまで、低コストの銅線ケーブルを優先することでした。-しかし今日、人工知能 (AI) コンピューティング クラスタが何百万ものグラフィックス プロセッシング ユニット (GPU) を配備する「コンピューティング パワー ファクトリー」の規模に移行しており、データセンターの費用対効果が大きなプレッシャーに直面しているため、この「代替手段のない光学-」技術の変曲点が、誰もが予想していたよりもはるかに早く到来していることに人々は気づき始めています。-
ネットワーク設計者は、高速シナリオでは銅線ケーブルの伝送距離に大きな制限があることを以前から認識していましたが、基本的な物理的な観点から根本的な原因を分析した人はほとんどいません。{0}ネットワーク エンジニアは専門知識を活かして銅線ケーブルの伝送距離と帯域幅の限界を極限まで押し上げてきましたが、物理法則の制約を克服することはできません。最も独創的な工学設計であっても、銅ケーブル固有の制限を克服するのは困難です。これを理解すると、業界が Co- パッケージド オプティクス (CPO) テクノロジーに急いで移行している理由が説明されます。
銅線ケーブルを介して送信される電気信号の周波数が高いほど、シンボル レートと帯域幅が高くなり、より多くの情報を伝送できます。問題は、信号周波数が増加すると伝送距離が大幅に減少することです。信号損失の主な原因は、表皮効果と誘電損失の 2 つです。
表皮効果：電流の「表面濃度」
AC 信号が銅ケーブルを通過すると、変化する磁界によって導体内に渦電流が誘導されます。この渦電流によって発生する磁界は、ケーブル中心の信号磁界を打ち消します。信号磁場の変化が速いほど-、つまり周波数が高いほど、-このキャンセル効果は強くなります。
直接的な結果は、電流が導体の非常に薄い表面層に「押し込まれる」ことです。この層の厚さは表皮深さとして知られています。 AI データセンターにおける現在の信号伝送では、一般に 53 GHz 付近の周波数が使用されます。この周波数では、銅ケーブルの表皮深さはわずか 0.3 μm です。このような薄い伝送層は導体の断面積の 1% 未満しか利用しないため、ケーブルの抵抗が急増し、DC 抵抗の 100 倍を超えることもあります。-
誘電損失: 絶縁層における「エネルギー散逸」
銅線ケーブルにおける信号減衰のもう 1 つの主な原因は、誘電損失です。ギガヘルツ レベルの高周波シナリオでは、ケーブルの絶縁誘電体内の分子が電場の急速な変動に追いつくことができません。電場の急速な変動と分子の遅れた応答の間の遅延により、信号の電磁エネルギーが熱エネルギーに変換され、エネルギー損失が発生します。
二重損失: 銅線ケーブルの致命的な弱点
表皮効果と誘電損失が協調して作用する場合、銅ケーブルの信号損失は周波数が上昇するにつれて指数関数的に増加します。
これを明確に説明すると、50 GHz の周波数では、高品質の銅線ケーブルを使用した場合でも、これら 2 つの影響による合計損失により、2 メートルの伝送距離内の信号電力バジェットの 90% 以上が消費されます。-銅線ケーブルの物理的特性により、帯域幅と伝送距離を同時に達成することはできないという、相容れない核心的矛盾が生じます。
高密度波長分割多重共パッケージ光学系（DWDMCPO）-
現在、AI トレーニング クラスタのパフォーマンスのボトルネックは、1 秒あたりの浮動小数点演算数（FLOPS）から帯域幅要件に移行しています。{0}}
一貫したメモリを備えたスケーラブルなネットワークでは、次のような複数の要求を満たすために新世代のネットワーキング テクノロジが必要です。
| データセンターの展開では消費電力が制限要因となるため、ビットあたりの消費電力を下げることが求められます。
|浮動小数点演算がボトルネックではなくなったため、各プロセッサにさらに大きな帯域幅を提供する必要があります。
|ファイバーを導入するための物理的スペースが制限されるため、より高い集積密度を達成する必要があります。
|ラック間の水平スケーリングを有効にするには、より長い伝送距離をサポートする必要があります。
|メモリ ドメインの一貫性を維持し、GPU 使用率を向上させるには、超低テール レイテンシが必要です。{0}
|高い信頼性とメンテナンスのしやすさも重要です。
テール レイテンシが主要な制約になると、上記の要件を満たすと GPU の使用率が大幅に向上し（一部のモデルの推定では使用率が 2 倍以上になる可能性がある）、ネットワークの消費電力が大幅に削減され、エンドツーエンドのモデルのパフォーマンスが向上します。--現在、DWDMCPO は、これらの厳しい要件を同時に満たすことができる唯一の技術的アプローチであり、ハイパースケール データセンター オペレーターに広範囲にわたる費用対効果の変革をもたらします。{{3}
DWDMCPO テクノロジーは、単一のファイバーで複数の波長の光を伝送することにより、各 GPU に複数の幅広の低速チャネルを提供します。- 25 年前に DWDM テクノロジーがインターネット バックボーンに革命をもたらしたのと同じように、送信波長の数を 1 から 8、16、あるいはそれ以上にスケールすることにより、この幾何学的スケーリング パターンは AI ネットワークに革命をもたらす準備が整っています。
DWDM の単一チャネルの伝送速度は約 50～64 Gbit/s で、低速伝送のカテゴリに分類されます。-この特性により、エンジニアは PAM4 から NRZ へのデータ エンコード スキームを簡素化できます。この簡素化により、コストが高く電力を大量に消費する複数の信号処理ステージが排除され、信号伝送パスを合理化することで消費電力と遅延の二重の削減が実現します。
テール レイテンシーは、データセンターの ROI を侵食する「サイレント キラー」です。 GPU クラスターがデータ トークンを処理する場合、継続的で予測可能なビットストリーム入力が必要です。 1 つのビットで送信遅延が発生すると、クラスタの残りの部分がアイドル状態になり、プロセッサの使用率が大幅に低下します。クラスタ内のプロセッサの数が増加すると、p999 レベルのテール ビット レイテンシが発生する可能性が大幅に増加し、それに応じてプロセッサの使用率が低下します。
低レイテンシ、低電力、長距離の DWDMCPO テクノロジーがなければ、ネットワークのスケーラビリティが制限され、その結果、大規模言語モデル（LLM）のパフォーマンスが制限されてしまいます。{0}より大規模で、よりフラットで、-レイテンシが低いスケーラブルなネットワークは、より大きなキー値キャッシュをサポートできるため、モデルのコンテキスト ウィンドウ サイズとコンテンツの関連性が直接増加し、LLM の実効ワーキング メモリが効果的に拡張されます。{6}}低遅延帯域幅の増加により、トランスフォーマー層の数が増加する可能性もあり、モデルがより深い思考と推論機能を備えられるようになります。つまり、チップ間の通信制約を突破することで、LLM はより多くの情報を作業メモリに保存し、途切れることなくより多くの推論ステップを完了できるようになります。
銅線ケーブルは当時としては間違いなく優れたテクノロジーでしたが、その固有の物理的限界により、ハイパースケール データ センターの投資収益率を大幅に向上させ、LLM の機能を拡張するために、より高度なネットワーキング テクノロジーが緊急に必要とされています。
数年後には、銅線ケーブルだけで構築された AI データセンターは、銅線のみに依存する長距離インターネット接続と同じくらい想像できないものになるでしょう。{0}
ハイパースケール データセンターの運営者、投資家、LLM 開発者、その他の AI インフラストラクチャの関係者は、この技術トレンドを真剣に受け止める必要があります。この技術トレンドは、データセンターの費用対効果の状況を根本的に再構築するだけでなく、AI 機能の限界を継続的に拡大することになります。{0} DWDMCPO テクノロジーを最初に採用する企業は、コスト、消費電力、パフォーマンスの面でアーキテクチャ上の利点を確立します。これらの利点は、AI インフラストラクチャがスケールアップするにつれてさらに拡大します。
