AIデータセンターのネットワークと電力要件：10年間の市場予測と技術評価（2025年1月）

Networks and Power Requirements for AI Data Centers: A Ten Year Market Forecast and Technology Assessment (January 2025)

AIデータセンターのネットワークと電力要件：10年間の市場予測と技術予測は、新種のAIデータセンターから生まれるビジネスチャンスを予測する最新の市場調査である。 AIを現実的に捉えた報告書 :本... もっと見る

出版社	出版年月	電子版価格	言語
Communications Industry Researchers CIR社	2025年1月9日	US$3,800 シングルユーザライセンス（1PC）ライセンス・価格情報注文方法はこちら	英語

※出版日に記載の日付は弊社webサイトの最新更新日です。

サマリー

AIデータセンターのネットワークと電力要件：10年間の市場予測と技術予測は、新種のAIデータセンターから生まれるビジネスチャンスを予測する最新の市場調査である。

AIを現実的に捉えた報告書:本レポートは、今日のAI製品（LLMやバーチャル・アシスタント）のデータセンター要件を慎重に評価することから始まり、例えばビデオAIがその影響力を増すにつれて、これらの要件がどのように進化していくかを解説している。IT、ネットワーク、エネルギー分野の新たな収益は膨大なものになるが、AIの誇大広告にも脅かされる。このレポートでは現実的AIの推論とトレーニングの台頭がデータセンターにどのような影響を与えるかを見てみよう。
AIデータセンターは遅延問題にどう対処するか：第2章では、圧倒的なハイパースケールデータセンターに焦点を当て、AIが低遅延の要求につながるにつれてAIデータセンターがどのように変化するかを示す。CIRは、このトレンドが業界をAIエッジネットワークとより高速なデータレートネットワーキングに向かわせると同時に、データセンターへの注目度を高めると主張している。場所データセンターの本章では、不動産業界におけるAIデータセンターの台頭によって誰が利益を得るのかについても考察する。
AI時代に向けたネットワーク、サーバー、ストレージの新製品.第3章では、AIの特別なニーズに対応するため、データセンターの設計、レイアウト、機器の選択における大幅な再考について考察する。この章では、イーサネットがAIデータセンターの新たな要件にどのように適合しているかに焦点を当て、I.6Tまで成長する見込みのあるウルトライーサネットの形をとっている。また、サーバーとストレージ・ボックスがAI時代に向けてどのように見直されているかについても取り上げている。
光統合と新型プロセッサーがいかにAIを実現するか。第3章では、光統合がいかにして高データレート、低遅延のデータセンターを可能にするかについても検討する。この章では、チップレット、シリコンフォトニクス、コ・パッケージド・オプティクス（CPO）などの主要な集積プラットフォームを見ることで、この目標を部分的に達成している。また、ビジネスチャンスとしてのAIプロセッサと、データセンターにおけるCPU、GPU、FPGA、ASIC、および特殊な推論エンジンやトレーニングエンジンが今後果たす役割についても詳しく見ている。
AIには新しい電源と冷却源が不可欠だ。第4章では、原子力だけがAIを「救う」ことができると結論付けている。本章では、風力発電がAI市場に占めるシェアは小さいかもしれないが、AIが小型モジュール（原子力）炉の市場機会を創出することを論じる。一方、報告書は、AIデータセンターにおける効果的な冷却には多くの道筋があるが、そのほとんどは液冷戦略であると指摘している。 CIRは、データセンター冷却の新しい標準がうまくいくと予測している。
レポートには10年間の詳細な市場予測が含まれている。本レポートには、AIデータセンターの数、AIサーバーとポート速度、ネットワーク技術／プロトコル別のAIサーバー、AIデータセンターのデータストレージ、AIデータセンターの消費電力、AIデータセンターの冷却技術に関する10年予測が掲載されている。

本レポートを通じて提供される戦略的分析は、主要な機器企業やサービスプロバイダーの最近の歴史からケーススタディで説明されている。本レポートは、ネットワークベンダー、サービスプロバイダー、AIソフトウェア企業、コンピュータ企業、投資家にとって必読の書となるだろう。本レポートは、ネットワークベンダー、サービスプロバイダ、AIソフトウェア企業、コンピュータ企業、投資家にとって必読の書となるだろう。

ページTOPに戻る

目次

エグゼクティブサマリー: AI データセンターと今後の機会…… 1

E.1 AI データセンターの進化の概要: 10 年間の市場予測…… 1

E.2 AI データセンター向けチップ開発の機会…… 2

E.3 PIC、インターコネクト、光統合、AI…… 2

E.4 AI データセンターの接続ソリューション…… 2

E.4.1 AI データセンターにおける共パッケージ光学部品の将来…… 2

E.5 サーバーの再考…… 3

E.6 AI データセンターのストレージ要件…… 3

E.7 AI データセンターの電力消費…… 3

E.7.1 液体冷却: クールな AI データセンターの将来…… 4

第 1 章: AI データセンターの止まらない成長: AI Real 5

1.1 このレポートの目的……5

1.1.1 情報源……5

1.2 AI: 現状……5

1.2.1 AI データスループットがデータセンターで機会を生み出す仕組み……5

1.3 LLM: 将来の顧客ニーズ、技術ニーズ、機会……6

1.3.1 推論要件……6

1.3.2 トレーニング要件……6

1.3.3 LLM インフラストラクチャの機会……7

1.4 仮想アシスタントと AI インフラストラクチャ……8

1.5 ビデオ AI の役割の拡大……9

1.5.1 機械認識 (MP)……10

1.5.2 ビデオサービスと AI の比較: 教訓…… 10

1.6 機械学習に関する注記…… 10

1.6.1 ニューラルネットワークとディープラーニング…… 11

1.6.2 コンシューマー AI とエンタープライズ AI…… 11

1.6.3 トラフィック増加に対するコンシューマー AI の重要性…… 11

1.6.4 エンタープライズ AI の影響…… 11

1.7 AI ソフトウェアサービスと AIaaS…… 12

1.8 何が問題になる可能性があるか…… 13

1.8.1 AI の幻覚…… 13

1.8.2 AI のパフォーマンスが低い…… 13

1.8.3 機能が多すぎる未来…… 14

第 2 章: AI 革命に向けたデータセンターの再構築: 新たな機会…… 15

2.1 AI データセンターの始まり…… 15

2.1.1 AI クラスターの重要な役割: 現在どのように構築されているか…… 16

2.2 AI データセンターにおける「東西」トラフィックの増加…… 17

2.3 AI がデータセンターの低レイテンシのニーズを促進する仕組み…… 17

2.3.1 AI データセンターのレイテンシ問題の解決策としての高データレートインターフェイス…… 18

2.4 AI データセンターの地理的変化: 場所、場所、場所!…… 19

2.4.1 不動産業界で AI データセンターのゲームに参加しているのは誰か?…… 19

2.4.2 ハイパースケーラー: AI データセンター分野の主要プレーヤー…… 20

2.5 AI とエッジネットワーク…… 21

2.5.1 エッジハードウェアに関する注意事項…… 22

2.6 データセンターの相互接続に関する注意事項…… 22

第 3 章供給: AI ネットワーキング: ハードウェアと利用可能なテクノロジー…… 24

3.1 データセンターハードウェアへの序文…… 24

3.2 AI、データセンター、半導体セクター…… 24

3.2.1 AI データセンターの CPU…… 24

3.2.2 AI データセンターの GPU…… 25

3.2.3 推論およびトレーニングエンジン: ハイパースケーラーの対応…… 25

3.2.4 AI データセンターの FPGA…… 26

3.2.5 ASIC…… 26

3.3 AI データセンターの PIC、インターコネクト、光統合…… 26

3.3.1 AI データセンターのシリコンフォトニクス…… 26

3.3.2 AI データセンターのインターコネクト用その他のプラットフォーム…… 27

3.3.3 チップレットとインターコネクトに関する注意事項…… 27

3.4 AI データセンター向け光ネットワークインフラストラクチャ…… 29

3.5 AI データセンターの Ultra Ethernet: IEEE P802.3Dj…… 31

3.5.1 FEC とレイテンシ…… 31

3.5.2 Ultra Ethernet Consortium (UEC)…… 32

3.6 AI データセンターにおける共パッケージオプティクスの将来…… 33

3.6.1 AI データセンターで CPO が発生する時期に関する不確実性…… 34

3.7 サーバーの再考…… 35

3.7.1 AI 向けスケールアウトネットワーク: 水平スケーリング…… 36

3.7.2 スケールアップネットワーク…… 36

3.8 AI データセンターのストレージ要件…… 36

3.9 高性能 AI データセンターに向けた注意事項…… 37

第 4 章: AI データセンターの電力と冷却の要件…… 39

4.1 AI データセンターの電力と冷却の要件…… 39

4.2 AI データセンターの電力消費…… 39

4.2.1 データセンター向けの従来型および「グリーン」な電力ソリューション…… 40

4.3 原子力オプション: 原子力の小型化…… 41

4.3.1 AI セクターにおける原子力発電の現在の計画…… 41

4.4 液体冷却: クールな AI データセンターの未来…… 42

4.4.1 液体冷却の進化…… 42

4.3.2 液浸冷却…… 42

4.3.3 マイクロ対流冷却…… 43

4.3.4 チップ間直接冷却…… 43

4.3.5 マイクロチャネル冷却……. 43

4.3.6 オイル冷却……. 43

第 5 章 10 年間の市場予測……. 44

5.1 市場予測の前文……. 44

5.1.1 AI の確かな市場データはありますか? …… 45

5.2 AI データセンターはいくつありますか? ……46

5.2.1 世界中で稼働中の AI データセンター……. 46

5.3 AI データセンターの接続性の 10 年間の予測: サーバーとポート速度……. 49

5.3.1 AI サーバーの 10 年間の予測……. 49

5.3.2 速度別 AI サーバーポートの 10 年間の予測…… 50

5.3.3 テクノロジタイプ/プロトコル別 AI サーバーポートの 10 年間の予測…… 51

5.4 AI データセンターのデータストレージの 10 年間の予測…… 51

5.5 AI データセンターの冷却と電力の 10 年間の予測…… 53

著者について 56

このレポートで使用されている頭字語と略語 57

展示品一覧

ページTOPに戻る

Table of Contents

Summary

Network and Power Requirements for AI Data Centers: A Ten-Year Market Forecast and Technology Forecast is an up-to-the-minute market study forecasting business opportunities flowing from the new breed of AI data centers.

Report embraces a realistic take on AI: The report begins with a careful assessment of the data center requirements of today’s AI products (LLMs and Virtual Assistants) and how these requirements will evolve as, for example, video AI makes has its impact. New revenues for the IT, Networking and Energy sectors will be vast, but also threatened by AI hype. In this report, we take a realistic look at how the rise of AI inference and training will impact the data center
How AI data centers will deal with latency issues: Chapter Two focuses on the dominant Hyperscale Data Centers and shows how AI data centers will change as AI leads to demands for lower latency. CIR claims this trend will drive the industry to AI edge networks and higher data rate networking as well as to a growing attention to the location of data centers. This Chapter also examines who will benefit from the rise of AI data centers in the real estate industry
Novel products for networking, servers and storage for the AI era. Chapter Three looks at the major re-think in the design, layout and equipment choices for data centers to meet the special needs of AI. Thus, the Chapter focuses on how Ethernet is being adapted to match the emerging requirements of the AI data center, taking on form of Ultra Ethernet with the prospect of growing to I.6T. It also covers how servers and storage boxes are being rethought for the AI era
How optical integration and novel processors will be an AI enabler. Chapter Three also examines how optical integration enables high-data rate, low latency data centers. The chapter accomplishes this goal in part by looking at key integration platforms such as chiplets, silicon photonics and co-packaged optics (CPO). It also takes a close look at AI processors as a business opportunity and the future role that will be played by CPUs, GPUs, FPGAs, ASICs and specialized inference and training engines in the data center
New power and cooling sources are vital for AI. Chapter Four concludes that only nuclear can “save” AI. This Chapter discusses how AI creating a market opportunity for Small Modular (Nuclear) reactors, although wind power may have a small share of the AI market. Meanwhile, the report points out that effective cooling in the AI data center has many paths leading to it, although most can be characterized as liquid cooling strategies. CIR predicts creates the new standard for data center cooling will do well
Report contains detailed ten-year market forecasts. The report contains ten-year projections for the number of AI data centers, AI servers and port speeds, AI servers by networking technology/protocol, data storage for AI data centers, power consumption by AI data centers, and cooling technologies in AI data centers

The strategic analysis provided throughout the report is illustrated with case studies from the recent history of major equipment companies and service providers. This report will be essential reading for networking vendors, service providers, AI software firms, computer companies and investors. This report will be essential reading for networking vendors, service providers, AI software firms, computer companies and investors.

ページTOPに戻る

Table of Contents

Executive Summary: AI Data Centers and Opportunities to Come…… 1

E.1 Summary of AI Data Center Evolution: Ten-year Market Forecasts……. 1

E.2 Chip Development Opportunities for AI Data Center….. 2

E.3 PICs, Interconnects, Optical Integration and AI ……2

E.4 Connectivity Solutions in the AI Data Center……. 2

E.4.1 The Future of Co-Packaged Optics in the AI Data Center…… 2

E.5 Rethinking Servers……. 3

E.6 Storage Requirements for AI Data Centers…… 3

E.7 Power Consumption by AI Data Centers……. 3

E.7.1 Liquid Cooling: The Future of Cool AI Data Centers……. 4

Chapter One: The Unstoppable Rise of the AI Data Center: AI Real 5

1.1 Objective of this Report……5

1.1.1 Sources of Information…… 5

1.2 AI: The State of Play……. 5

1.2.1 How AI Data Throughput Creates Opportunities in Data Centers……. 5

1.3 LLMs: Future Customer Needs, Technical Needs and Opportunities……. 6

1.3.1 Inference Requirements……. 6

1.3.2 Training Requirements……. 6

1.3.3 LLM Infrastructure Opportunities……. 7

1.4 Virtual Assistants and the AI Infrastructure……. 8

1.5 A Growing Role for Video AI…… 9

1.5.1 Machine Perception (MP)…… 10

1.5.2 Comparing Video Services and AI: Cautionary Tales……. 10

1.6 Notes on Machine Learning……. 10

1.6.1 Neural Networks and Deep Learning……. 11

1.6.2 Consumer vs. Enterprise AI…… 11

1.6.3 Importance of Consumer AI to Traffic Growth……. 11

1.6.4 Impact of Enterprise AI…… 11

1.7 AI Software Services and AIaaS……. 12

1.8 What Can Possibly Go wrong?……. 13

1.8.1 AI Hallucinations……. 13

1.8.2 AI Underperforms……. 13

1.8.3 A Future with Too Many Features……. 14

Chapter Two: Restructuring the Data Center for The AI Revolution: Emerging Opportunities…….. 15

2.1 AI Data Centers Begin……. 15

2.1.1 The Critical Role of AI Clusters: How They Are Being Built Today…….. 16

2.2 The Rise of “East-West” Traffic in the AI Data Center……. 17

2.3 How AI Drives the Need for Low Latency in Data Centers……. 17

2.3.1 High Data Rate Interfaces as a Solution to the AI Data Center Latency Problem…….. 18

2.4 The Changing Geography of AI Data Centers: Location, Location, Location!……. 19

2.4.1 Who is Playing the AI Data Center Game in the Real Estate Industry?……..19

2.4.2 Hyperscalers: Dominant Players in the AI Data Center Space……. 20

2.5 AI and Edge Networks……. 21

2.5.1 Some Notes on Edge Hardware……. 22

2.6 Some Notes on Data Center Interconnection……. 22

Chapter Three Supply: AI Networking: Hardware and the Available Technologies……. 24

3.1 A Preamble to Data Center Hardware……. 24

3.2 AI, Data Centers and the Semiconductor Sector…… 24

3.2.1 CPUs the AI Data Center…… 24

3.2.2 GPUs in the AI Data Center…… 25

3.2.3 Inference and Training Engines: The Hyperscaler Response……. 25

3.2.4 FPGAs in the AI Data Center……. 26

3.2.5 ASICs……. 26

3.3 PICs, Interconnects and Optical Integration in the AI Data Center…… 26

3.3.1 Silicon Photonics in the AI Data Center…… 26

3.3.2 Other Platforms for Interconnects in the AI Data Center……. 27

3.3.3 Some Notes on Chiplets and Interconnects……. 27

3.4 Optical Networking Infrastructure for AI Data Centers…….. 29

3.5 Ultra Ethernet in the AI Data Center: IEEE P802.3Dj……. 31

3.5.1 FEC and Latency……. 31

3.5.2 Ultra Ethernet Consortium (UEC)…… 32

3.6 The Future of Co-Packaged Optics in the AI Data Center…… 33

3.6.1 Uncertainties about when CPO will happen in the AI Data Center…… 34

3.7 Rethinking Servers……. 35

3.7.1 Scale-out Networks for AI: Horizontal Scaling……. 36

3.7.2 Scale-up Networks……. 36

3.8 Storage Requirements for AI Data Centers……. 36

3.9 Notes Toward High-Performance AI Data Centers……. 37

Chapter Four: Power and Cooling Requirements for AI Data Centers……. 39

4.1 Power and Cooling Requirements for AI Data Centers……. 39

4.2 Power Consumption by AI Data Centers……. 39

4.2.1 Conventional and “Green” Power Solutions for Data Centers……. 40

4.3 Nuclear Option: Nuclear Miniaturized……. 41

4.3.1 Current Plans for Using Nuclear Power in the AI Sector…… 41

4.4 Liquid Cooling: The Future of Cool AI Data Centers……. 42

4.4.1 Evolution of Liquid Cooling……. 42

4.3.2 Liquid Immersion Cooling……. 42

4.3.3 Microconvective Cooling……. 43

4.3.4 Direct Chip-chip Cooling……. 43

4.3.5 Microchannel Cooling……. 43

4.3.6 Oil Cooling……. 43

Chapter Five Ten-year Market Forecasts……. 44

5.1 Preamble to the Market Forecasts……. 44

5.1.1 Do We Have Hard Market Data for AI? …… 45

5.2 How Many AI Data Centers are there? ……46

5.2.1 Worldwide AI Data Centers in Operation……. 46

5.3 Ten-year Forecast of AI Data Center Connectivity: Servers and Port Speeds……. 49

5.3.1 Ten-year Forecast of AI Servers……. 49

5.3.2 Ten-year Forecast of AI Server Ports by Speed…… 50

5.3.3 Ten-year Forecast of AI Server Ports by Technology Type/ Protocol…… 51

5.4 Ten-year Forecast of Data Storage for AI Data Centers……. 51

5.5 Ten-year Forecast of Cooling and Power for AI Data Centers……. 53

About the Author 56

Acronyms and Abbreviations Used in this Report 57

List of Exhibits

Exhibit E-1: Opportunities from AI Data Centers at a Glance ($ Millions, Except Data Centers)……. 1

Exhibit 1-1: Enterprise Applications for Virtual Assistants……. 8

Exhibit 1-2: Uses of Enterprise AI…… 12

Exhibit 2-1: Selected Opportunities Stemming from Rebuilding Data Centers……. 15

Exhibit 2-2: Solutions to Latency Problem…….. 17

Exhibit 3-1: Connectivity Technologies for AI Data Centers……. 29

Exhibit 3-2: AI – A CPO Future for AI?……. 32

Exhibit 4-1: Power and Cooling Solutions for AI Data Centers……. 38

Exhibit 5-1: Ten-Year Forecasts of AI Market ($ Billions) ……43

Exhibit 5-2: Worldwide AI Data Center In Operation Worldwide……. 46

Exhibit 5-3: Worldwide AI Server Markets……. 48

Exhibit 5-4: Distribution of Ports Shipped by Speed ($ Million)…… 49

Exhibit 5-5: Distribution of Ports Shipped by Protocol ($ Million)…… 50

Exhibit 5-6: Forecast of Data Storage for AI Data Centers……. 51

Exhibit 5-7: Ten-year Forecast of Power Consumption……. 53

Exhibit 5-8: Ten-year Forecast of Cooling Technology in AI Data Centers……. 54

ページTOPに戻る

ご注文は、お電話またはWEBから承ります。お見積もりの作成もお気軽にご相談ください。

webからのご注文・お問合せはこちらのフォームから承ります

本レポートと同分野（データセンタ）の最新刊レポート

Communications Industry Researchers社のデータセンタ分野での最新刊レポート

エッジデータセンタにおけるコ・パッケージド・オプティクス 2022-2030

本レポートと同じKEY WORD（）の最新刊レポート

本レポートと同じKEY WORDの最新刊レポートはありません。

よくあるご質問

Communications Industry Researchers社はどのような調査会社ですか?

CIR社は、米国ヴァージニア州に本社をおく光通信、ネットワーク産業の調査会社です。もっと見る

調査レポートの納品までの日数はどの程度ですか?

在庫のあるものは速納となりますが、平均的には 3-４日と見て下さい。
但し、一部の調査レポートでは、発注を受けた段階で内容更新をして納品をする場合もあります。
発注をする前のお問合せをお願いします。

注文の手続きはどのようになっていますか?

1)お客様からの御問い合わせをいただきます。
2)見積書やサンプルの提示をいたします。
3)お客様指定、もしくは弊社の発注書をメール添付にて発送してください。
4)データリソース社からレポート発行元の調査会社へ納品手配します。
5) 調査会社からお客様へ納品されます。最近は、pdfにてのメール納品が大半です。

お支払方法の方法はどのようになっていますか?

納品と同時にデータリソース社よりお客様へ請求書（必要に応じて納品書も）を発送いたします。
お客様よりデータリソース社へ（通常は円払い）の御振り込みをお願いします。
請求書は、納品日の日付で発行しますので、翌月最終営業日までの当社指定口座への振込みをお願いします。振込み手数料は御社負担にてお願いします。
お客様の御支払い条件が60日以上の場合は御相談ください。
尚、初めてのお取引先や個人の場合、前払いをお願いすることもあります。ご了承のほど、お願いします。

データリソース社はどのような会社ですか?

当社は、世界各国の主要調査会社・レポート出版社と提携し、世界各国の市場調査レポートや技術動向レポートなどを日本国内の企業・公官庁及び教育研究機関に提供しております。
世界各国の「市場・技術・法規制などの」実情を調査・収集される時には、データリソース社にご相談ください。
お客様の御要望にあったデータや情報を抽出する為のレポート紹介や調査のアドバイスも致します。