AIデータセンターとは？従来との違い・電力と冷却の技術と仕事を解説

生成AIの広がりとともに、AI向けのデータセンターの建設が国内外で進んでいます。IEA（国際エネルギー機関）によると、世界のデータセンターの電力消費は2024年の約415TWhから、2030年には約945TWhと2倍以上に増える見通しで、その一番の要因がAIです。

ここでは、AIデータセンターと従来のデータセンターの違い、それを支える設備と技術、そこで働くインフラエンジニアの仕事と身につけたいスキルを解説します。

AIデータセンターとは？従来との違い

AIデータセンターとは、AIの学習や推論に必要な大量のGPUを動かすために設計されたデータセンターです。サーバーを置く場所という点は従来と同じですが、電力・冷却・ネットワークの考え方が大きく変わります。

従来のデータセンターとの違い

項目	従来のデータセンター	AIデータセンター
主な計算資源	CPUのサーバーが中心	多数のGPUを連携させて使う
電力	ラックあたりの消費電力は比較的小さい	最新のGPUラックでは1ラック約120〜130kW
冷却	空気で冷やす空冷が中心	液体で冷やす液冷が前提になりつつある
ネットワーク	利用者とサーバーの間の通信が中心	GPU同士の大量・低遅延の通信が中心
立地	利用者に近い都市部が多い	大きな電力を確保しやすい地域

たとえば、NVIDIAのGPUラック「GB200 NVL72」は1ラックで約120〜130kWの電力を使うとされています。これだけの熱を空気だけで冷やすのは現実的に難しく、液冷が使われています。

学習用と推論用の違い

AIデータセンターは、使い道によって求められる作りが変わります。

• 学習用
  大量のデータでAIのモデルを作る。多数のGPUを1つの大きなまとまり（クラスタ）として動かすため、電力と高速なネットワークが最も重要になる。
• 推論用
  作ったモデルで利用者の質問に答える。応答の速さが大事なため、利用者に近い場所に分けて置かれることもある

国内でも進むAIデータセンターの整備

国内でも、AIデータセンターの建設が続いています。大阪府堺市のシャープ堺工場の跡地では、KDDIとソフトバンクがそれぞれデータセンターを整備しており、KDDIは「大阪堺データセンター」を2026年1月下旬に稼働開始するとしていました。北海道の石狩・千歳・苫小牧でも、データセンターの建設が続いています。

大きな電力と広い敷地を確保できる工場の跡地や、電力と冷涼な気候に恵まれた北海道が選ばれているのは、AIデータセンターならではの特徴です。

AIデータセンターを支える設備と技術

AIデータセンターでは、GPUサーバーそのものに加えて、それを動かし続けるための電力・冷却・ネットワークが要になります。

GPUの仕組みについては、［GPUサーバーとは］や［GPU基盤とは］で詳しく解説しています。

電力：大きな電力を安定して届ける

AIデータセンターは、従来よりはるかに大きな電力を使います。そのため、受電設備、変圧器、停電に備えるUPS（無停電電源装置）や発電機を、GPUラックの電力に合わせて設計し直す必要があります。

電力を確保できるかどうかが建設場所を左右するほどで、電力の調達と設備の設計は、AIデータセンターで一番の課題です。

冷却：空冷から液冷へ

GPUは大量の熱を出すため、冷却の方式も変わってきています。

方式	仕組み	特徴
空冷	冷たい空気をサーバーに当てて冷やす	従来の方式。高い発熱には追いつきにくい
直接液冷	GPUに取り付けた金属の板（コールドプレート）に冷却液を流す	AI向けのGPUサーバーで広がっている
液浸冷却	サーバーごと特殊な液体に浸して冷やす	冷却の効率が高いが、設備や運用が大きく変わる

液冷では、冷却液の配管や漏れの監視、冷却設備の保守など、従来のデータセンターにはなかった運用が加わります。

ネットワーク：GPU同士を高速につなぐ

AIの学習では、多数のGPUが計算の途中結果をやり取りしながら動きます。そのため、GPU同士を低遅延・広帯域でつなぐネットワークが、計算の速さそのものを左右します。

方式	特徴
InfiniBand	GPUクラスタ向けに使われてきた高速な通信規格。低遅延に強い
イーサネット（RoCE）	一般的なイーサネットの上で、サーバー間の高速なデータ転送（RDMA）を行う方式。従来のネットワークの知識を活かしやすい

どちらの方式でも、GPUサーバーとスイッチの間を大量の光ケーブルでつなぎ、通信が詰まらない構成を設計します。

ネットワークの基本は［ネットワークとは］で解説しています。

ストレージ：学習データを止めずに届ける

大量の学習データをGPUに途切れなく送るため、高速なストレージも欠かせません。GPUが待たされると、高価な計算資源が遊んでしまうためです。

AIデータセンターで働くインフラエンジニアの仕事

AIデータセンターでは、ネットワーク・サーバー・クラウド・設備など、さまざまなインフラエンジニアが働いています。従来のデータセンターやインフラの経験は、そのまま土台として活かせます。

主な職種と仕事内容

職種	主な仕事	活きる経験
ネットワークエンジニア	GPU同士をつなぐネットワークの設計・構築・運用	データセンターのネットワーク構築、スイッチの設定
サーバーエンジニア	GPUサーバーの構築、OSやドライバの管理、クラスタの運用	Linuxサーバーの構築・運用
クラウド・SREエンジニア	GPUクラウドの基盤づくり、コンテナでの処理の管理、監視の自動化	クラウドやKubernetesの運用
ファシリティエンジニア	電力・冷却設備の設計・保守	電気設備や空調設備の経験
データセンター運用	監視、障害対応、機器の交換や配線などの現地作業	データセンターでの運用・保守

AIの基盤を専門にする職種については、［AIインフラエンジニアとは］で詳しく解説しています。

身につけたいスキル

• Linux
  GPUサーバーの多くはLinuxで動くため、構築と運用の基本は必須。
• ネットワーク
  L2・L3の基本に加えて、データセンター向けの構成や高速なネットワークの知識。
• コンテナとKubernetes
  GPUを使う処理をまとめて管理する場面で使われる。
• 自動化
  AnsibleやPythonで、多数のサーバーの設定や監視を自動化する。
• 電力と冷却の基礎
  GPUラックの消費電力や液冷の仕組みを理解しておくと、設備側と話がしやすい。

関連する資格

AIデータセンターに特化した資格は多くないため、まずは土台になる資格から取るのがおすすめです。ネットワークならCCNA、サーバーならLPICやLinuC、クラウドならAWS認定などが基本になります。

GPUメーカーのNVIDIAも、AIインフラに関する認定資格を用意しています。試験の内容や料金は変わることがあるため、公式サイトで確認してください。

資格の選び方は、［インフラエンジニアのおすすめ資格一覧］で紹介しています。

AIデータセンターでよくある疑問

Q．未経験でもAIデータセンターで働ける？

データセンターの運用や現地作業は、未経験から始められる求人もあります。まずは運用・保守で経験を積み、ネットワークやサーバーの構築に進むのが現実的な道です。

未経験からの進み方は［インフラエンジニアとは］も参考にしてください。

Q．AIや機械学習の知識は必要？

インフラエンジニアとして働くなら、機械学習の理論まで深く知る必要はありません。ただ、学習と推論の違いや、GPUがどう使われるかを知っておくと、設計や障害対応で判断しやすくなります。

Q．従来のデータセンターの仕事はなくなる？

なくなりません。一般的な業務システムやWebサービスは、これからも従来型のデータセンターやクラウドで動きます。AIデータセンターは、それに新しく加わる選択肢です。

Q．クラウドのGPUと何が違う？

クラウドのGPUサービスも、その裏側ではAIデータセンターで動いています。利用者として使うのがクラウド、その基盤を作って動かすのがAIデータセンターの仕事、という関係です。

まとめ

AIデータセンターは、大量のGPUを動かすために、電力・冷却・ネットワークの考え方を大きく変えたデータセンターです。

この記事のポイントは次のとおりです。

• 従来との違い
  CPU中心から多数のGPUの連携へ変わり、電力と冷却の規模が大きく変わった。
• 電力
  最新のGPUラックは1ラック約120〜130kWを使い、電力の確保が建設場所を左右する。
• 冷却
  空冷では追いつかず、直接液冷や液浸冷却が広がっている。
• ネットワーク
  GPU同士をつなぐ高速なネットワークが、計算の速さを左右する。
• 仕事
  ネットワーク・サーバー・クラウド・設備・運用の経験が、そのまま土台として活かせる。

AIデータセンターは、これまでのインフラの知識の延長にある仕事です。Linuxやネットワークの基本を固めながら、GPUや液冷など新しい分野にも目を向けていきましょう。