AIワークロード向けAIネットワーク：先行研究レポート

Advanced Research Report on AI Networks for AI Workloads

AI業界は現在、大きな変曲点を迎えており、OpenAIのChatGPTのような大規模言語モデルや生成的AIアプリケーションの急速な台頭がその特徴である。これらの新興AIアプリケーションの特徴は、管理しなければなら... もっと見る

出版社	出版年月	価格	言語
Dell'Oro Group デローログループ	2024年7月16日	お問い合わせくださいライセンス・価格情報注文方法はこちら	英語

プレスリリース

サマリー

AI業界は現在、大きな変曲点を迎えており、OpenAIのChatGPTのような大規模言語モデルや生成的AIアプリケーションの急速な台頭がその特徴である。これらの新興AIアプリケーションの特徴は、管理しなければならないパラメータの数が膨大であることだ。中には数十億、あるいは数兆ものパラメーターを扱うものもあり、数千から数万のGPU、TPU、その他の種類の高速プロセッサを使用する必要がある。

これらの高速サーバーを大規模なクラスターに接続するには、AIバックエンド・ネットワークと呼ばれるデータセンター規模のファブリックが必要だ。このネットワークは、汎用サーバーの接続に使用される従来のフロントエンド・ネットワークとは異なる。

さらに、AIワークロードには、従来の汎用コンピューティングワークロードとは大きく異なる独自の属性と特性があり、これらの属性は、AIワークロードを実行するために必要なネットワークの種類に重要な影響を及ぼす。

AIワークロード向けAIネットワーク：先行研究レポート（ARR）は以下の重要な質問に答える事を目的としている：

AIネットワーク特有の要件とは？
AIワークロードをサポートするための様々なネットワーク設計オプションとトポロジーとはなにか？
AIネットワークの全体的な市場機会はなにか？
バックエンド・ネットワークとフロントエンド・ネットワークの規模は？
イーサネットとインフィニバンドの現在と将来的なシェアはどのくらいか？また、それぞれのプロトコルを動かすユースケースはなにか？
大手のクラウドサービスプロバイダーがAIバックエンドネットワークに採用しているファブリックには、どのような特徴があるか。

ページTOPに戻る

プレスリリース

AIバックエンド・ネットワークが今後5年間でデータセンター・スイッチの支出を800億ドル押し上げる
デローログループ調べ

当面はインフィニバンドがリード、間もなくイーサネットが主流に
2024年7月16日｜プレスリリース
カリフォルニア州レッドウッドシティ
Dell'Oro Groupの最新「AIワークロード向けAIネットワーク」レポートによると、高速化したサーバーを接続するAIバックエンド・ネットワークに導入されるスイッチへの支出は、今後5年間で800億ドルに達し、データセンター・スイッチ市場全体のほぼ2倍になると予測されている。現在のデータセンター・スイッチ市場の支出は、主に汎用サーバーの接続に使われるフロントエンド・ネットワークに集中しているが、AIワークロードには新たなバックエンド・インフラの構築が必要になる。現在、AIバックエンドネットワーク市場はインフィニバンドが独占しているが、イーサネットが間もなくその座を奪い取る勢いだ。

Dell'Oro GroupのバイスプレジデントであるSameh Boujelbene氏は以下の様に述べている。

「AIワークロードと関連するデータセンター・インフラの成長は、市場の予想を大きく上回るペースで続いている。そのため、我々はAIバックエンド・ネットワークの予測を2023年12月時点の予測よりも引き上げたが、当初、その予測は多くの業界関係者からは非常にアグレッシブであると見なされていた。

この上方修正は、イーサネットとインフィニバンドにまたがる広範囲なものであった。しかし、我々は現在、イーサネットが今後数年以内にインフィニバンドを凌駕する能力について、より楽観視している。この楽観論は、技術面での大幅な改善と市場の需要に起因している。

技術面では、ネットワーク・チップ、ネットワーク・オペレーティング・システム、ネットワーク・インターフェイス・カード、オプティクスといったスタックの複数レイヤーにおいて、イーサネットの大幅な機能強化が見られる。需要面では、セレスティカ、シスコ、アリスタ、ジュニパー、ノキアなどのスイッチベンダーが獲得する可能性のある多くの案件のほか、エヌビディアが発表した最新の10万GPUクラスタの獲得など、イーサネットの新規獲得案件を大きく追っている。」

その他のハイライト：

AIネットワークは高速化を加速する。AIのバックエンドネットワークに導入されるスイッチポートの大半は、2025年までに800Gbps、2027年までに1600Gbpsになると予想されている。
市場需要の大半はティア1のクラウドサービスプロバイダーによるものだが、ティア2/3および大企業については、AIワークロードの採用とインフラ導入のペースが加速していることを踏まえ、予測を大幅に引き上げた。

レポートについて
Dell'Oro Groupの「AIワークロードのためのAIネットワーク先端調査レポート」は、AIのバックエンドネットワークにおいてInfiniBandとイーサネットを最適化するユースケースと、大規模なクラウドサービスプロバイダの選択について調査している。また、顧客タイプ別、InfiniBand対イーサネット別、ポート速度別の世界規模での5年間の市場予測も行っている。

ページTOPに戻る

Press Release

Summary

The AI industry is currently undergoing a significant inflection point, marked and defined by the rapid rise of emerging large language models and generative AI applications, such as OpenAI’s ChatGPT. What sets these emerging AI applications apart is the sheer number of parameters they must manage. Some of them deal with billions — or even trillions — of parameters, necessitating the use of thousands or tens of thousands of GPUs, TPUs, or other types of accelerated processors. Connecting these accelerated servers into large clusters requires a data center-scale fabric known as the AI back-end network. This network differs from the traditional front-end network used to connect general-purpose servers.

Furthermore, AI workloads possess unique attributes and characteristics that vastly differ from traditional general-purpose compute workloads. These distinctive attributes have important implications for the type of network required to run these AI workloads.

The AI Networks for AI Workloads Advanced Research Report (ARR) aims to answer critical market questions such as:

What are the unique requirements of AI Networks
What are the various network design options and topologies to support AI workloads?
What is the total market opportunity for AI Networks?
How big is the Back-end network vs. Front-end network?
What is the current and future share of Ethernet vs. InfiniBand and what are the use cases driving each one of these protocols?
What are the distinct fabric choices made by each one of the large Cloud Service Providers for their AI back-end networks.

ページTOPに戻る

Press Release

AI Back-End Networks to Drive $80 B of Data Center Switch Spending Over the Next Five Years, According to Dell’Oro Group

InfiniBand Leads in the Near Term, Ethernet Set to Dominate Soon
July 16, 2024 | Press Release
REDWOOD CITY, Calif.
According to the new AI Networks for AI Workloads report by Dell’Oro Group, the trusted source for market information about the telecommunications, security, networks, and data center industries, spending on switches deployed in AI back-end networks used to connect accelerated servers is forecast to approach $80 B over the next five years, nearly doubling the total data center switch market opportunity. Current data center switch market spending is on front-end networks used primarily to connect general-purpose servers but AI workloads will require a new back-end infrastructure buildout. While InfiniBand is currently dominating the AI back-end network market, Ethernet is poised to take over soon.

“As predicted, growth in AI workloads and the associated data center infrastructure continues to track well ahead of market expectations. We therefore raised our forecast for the AI back-end networks compared to our prior December 2023 forecast, though the latter was initially considered very aggressive by a number of industry players,” said Sameh Boujelbene, Vice President at Dell’Oro Group. “The upward adjustment was broad-based across Ethernet and InfiniBand. We are now, however, much more optimistic about the ability of Ethernet to eclipse InfiniBand within the next few years. This optimism stems from significant improvements on the technology side as well as market demand.

“On the technology side, we are observing significant enhancements on Ethernet at multiple layers of the stack: network chips, network operating systems, network interface cards and optics. In terms of demand, we are tracking significant new Ethernet wins, such as the latest 100K GPU cluster win announced by NVIDIA, among many other potential wins by other switch vendors including Celestica, Cisco, Arista, Juniper, and Nokia,” continued Boujelbene.

Additional highlights from the AI Networks for AI Workloads Report:

AI networks will accelerate the transition to higher speeds. The majority of the switch ports deployed in AI back-end networks are expected to be 800 Gbps by 2025 and 1600 Gbps by 2027.

While most of the market demand will come from Tier 1 Cloud Service Providers, we have significantly raised our forecast for Tier 2/3 and large enterprises in light of their accelerated pace of AI workload adoption and infrastructure deployment.

About the Report
Dell’Oro Group’s AI Networks for AI Workloads Advanced Research Report explores the use cases that optimize InfiniBand vs. Ethernet in AI back-end networks, as well as the choices made by large Cloud Service Providers. The report also provides a 5-year market forecast on a worldwide basis, by customer type, by InfiniBand vs. Ethernet, and by port speed.

ページTOPに戻る

ご注文は、お電話またはWEBから承ります。お見積もりの作成もお気軽にご相談ください。

webからのご注文・お問合せはこちらのフォームから承ります

本レポートと同分野の最新刊レポート

本レポートと同分野の最新刊レポートはありません。

Dell'Oro Group 社の最新刊レポート

本レポートと同じKEY WORD（ChatGPT）の最新刊レポート

本レポートと同じKEY WORDの最新刊レポートはありません。

よくあるご質問

Dell'Oro Group社はどのような調査会社ですか?

シリコンバレーの中心部に本社を置くデローログループ（Dell’Oro Group）は通信、エンタープライズネットワーク、データセンタ、セキュリテ... もっと見る

調査レポートの納品までの日数はどの程度ですか?

在庫のあるものは速納となりますが、平均的には 3-４日と見て下さい。
但し、一部の調査レポートでは、発注を受けた段階で内容更新をして納品をする場合もあります。
発注をする前のお問合せをお願いします。

注文の手続きはどのようになっていますか?

1)お客様からの御問い合わせをいただきます。
2)見積書やサンプルの提示をいたします。
3)お客様指定、もしくは弊社の発注書をメール添付にて発送してください。
4)データリソース社からレポート発行元の調査会社へ納品手配します。
5) 調査会社からお客様へ納品されます。最近は、pdfにてのメール納品が大半です。

お支払方法の方法はどのようになっていますか?

納品と同時にデータリソース社よりお客様へ請求書（必要に応じて納品書も）を発送いたします。
お客様よりデータリソース社へ（通常は円払い）の御振り込みをお願いします。
請求書は、納品日の日付で発行しますので、翌月最終営業日までの当社指定口座への振込みをお願いします。振込み手数料は御社負担にてお願いします。
お客様の御支払い条件が60日以上の場合は御相談ください。
尚、初めてのお取引先や個人の場合、前払いをお願いすることもあります。ご了承のほど、お願いします。

データリソース社はどのような会社ですか?

当社は、世界各国の主要調査会社・レポート出版社と提携し、世界各国の市場調査レポートや技術動向レポートなどを日本国内の企業・公官庁及び教育研究機関に提供しております。
世界各国の「市場・技術・法規制などの」実情を調査・収集される時には、データリソース社にご相談ください。
お客様の御要望にあったデータや情報を抽出する為のレポート紹介や調査のアドバイスも致します。