企業における生成AIの活用が進む中、AIの導入形態も変化しつつある。パブリッククラウドでの利用から、プライベートクラウドやオンプレミスでのAIサーバー導入へと、シフトしているのだ。本記事ではその理由と、AIサーバー選びのポイント、実際にAIサーバーを導入して成功した事例などを紹介する。

目次

AIは事業の成功に不可欠な要素となっている

　2022年11月にChatGPTがリリースされたことで、AIは幅広い層から注目されるようになった。ビジネスの現場でAIを活用していこうという動きは以前からあったが、生成AIの登場で一気に加速。今や、AIは事業の成功に不可欠な要素となっている。

AIの実用フェーズへの進展が加速している

　生成AIのリリース当初、企業におけるAI活用は実証実験（PoC：Proof of Concept）的なものが多かった。しかし、2024年の調査ではすでに、主要国の企業のうち65％が本番運用へと移行している※1。また2025年2月の調査では、75％の企業が「AI/生成AIをビジネス戦略の重要要素と認識」しているという※2。

※1　Dell Chief Strategy Office Business AI adoption survey of ~3,800 ITDMs & AI practitioners across US, UK, Germany, Japan and India, November 2024.
※2　Dell Technologies survey across 750 business and IT decision makers across US, UK, DE, FR and JP, all segments, Feb 2025.

AIの導入形態が大きく変化しつつある

　企業におけるAI活用が進む中で、AIの導入形態も大きく変化しつつある。

　以前はパブリッククラウドで提供されているAIサービスの利用が一般的だったが、実用フェーズで使うAIをクラウド以外の環境で動かすケースが増えている。つまり自社のプライベートクラウドやオンプレミスに「AIサーバー」を導入する動きが広がっているのだ。

AIサーバーとはどのようなサーバーなのか？

　AIサーバーとはその名のとおり、AIの複雑な計算や膨大なデータ処理に特化した高性能サーバーである。AIサーバーと一般的なサーバーの主な違いをまとめると、以下のようになる。

■AIサーバーと一般的なサーバーの違い
項目AIサーバー（GPUサーバー）一般的なサーバー
主な用途AI・機械学習のトレーニング／推論、大規模データ処理、HPCWeb、メール、業務アプリケーション、データベース、仮想化基盤
プロセッサ構成GPUを複数搭載し、高性能CPU（Xeon Platinum／EPYC 9004など）を併用CPU中心（Xeon／EPYCなど）。GPUは基本的に非搭載
処理性能の特徴並列処理と浮動小数点演算に最適化。マルチGPUで高いスループットを実現汎用処理に最適化。アプリケーション実行や逐次処理が中心
メモリ構成TB級メモリや高帯域メモリを採用。NUMA最適化が重要数十〜数百GBが一般的。汎用的なメモリ構成
GPU間通信NVLink／NVSwitchによりGPU間を高速接続該当なし
ストレージI/O帯域重視。NVMe SSDを多数搭載する構成が一般的標準的なSATA／NVMe構成で対応可能
ネットワークInfiniBand（HDR／NDR）や200〜400GbEなど高速ネットワークを利用10〜25GbEが主流
冷却・電源高電力・高発熱のため液冷方式、または高性能な空冷方式が必要。電源容量も大きい一般的な空冷方式で対応可能。電源要件も標準的
ラック要件重量・電力密度が高く、データセンター側の設備要件が大きい標準ラックで運用可能

　それではAIサーバーの特徴について、「ハードウエア」「放熱能力」「可用性と信頼性」の面から解説しよう。

高性能なハードウエア

　AIの学習などの場面では、膨大なデータを並列で処理できる能力が求められる。そのためAIサーバーは、並列処理が得意なGPU（Graphics Processing Unit）を搭載しているのが一般的だ。

　GPUは元々グラフィックス処理向けに開発されたユニットだが、大量の並列演算を高速にこなせる特性から、現在ではAI処理で広く利用されている。

　また、AIサーバーは膨大なデータへの高速アクセスが必要であるため、一般的なサーバーよりもメモリー容量が大きく、GPU間やストレージとの高速接続（インターコネクト）を備えたものも多い。

優れた放熱能力

　GPUは膨大な演算を並列処理で高速に実行できるのが利点だが、その一方で消費電力と発熱量が大きいという問題がある。そのため、AIサーバーはGPUから生じた熱を効率的に排熱できる仕組みを備えたものが多い。

　中には、従来のような「空冷方式」ではなく、液体で直接プロセッサーを冷却する「液冷方式」を採用しているものもある。

　サーバーの冷却方式についての詳細は以下の関連記事を参照してほしい。

AI時代のサーバー冷却とは？発熱問題を解決する液冷技術と選定基準

高い可用性と信頼性

　AIのトレーニングでは膨大なデータをメモリー上で扱うため、サーバーダウンなどで処理が中断されると、膨大な再計算が必要となり、時間とリソースが失われるリスクがある。そのため、AIサーバーには高い可用性・信頼性が求められる。

オンプレミスにAIサーバーを導入する企業が増える理由は？

　企業におけるAI活用が進む中で、なぜパブリッククラウドではなく、プライベートクラウドやオンプレミスにAIサーバーを導入するケースが増えているのか。それには大きく2つの理由がある。

「ソブリンAI」を実現できる

　オンプレミスにAIサーバーを導入する理由の1つは、「ソブリンAI」の実現である。

　ソブリンAIとは、「自国・自社のデータや技術を基に運用・管理するAI」のことだ。

　海外パブリッククラウドのAIサービスは、自社で環境構築する必要がない点も先進機能がタイムリーに実装される点も便利だ。しかし、アップロードしたデータの保存場所や利用方法が見えづらくブラックボックス化しやすい。そのため、機密性の高いデータを扱うにはリスクがあり、AIの用途が限定されてしまうのだ。

　オンプレミスのAIサーバーでソブリンAIを実現すれば、この問題を根本から解決できる。

　ソブリンAIについての詳細は以下の関連記事を参照してほしい。

AI時代のハイブリッドクラウドとは？ソブリンAI実現のための戦略

データアクセスのレイテンシーを最小化できる

　オンプレミスにAIサーバーを導入するもう1つの理由は、データアクセスの高速化である。

　AIのトレーニングでは、膨大な学習データへのアクセスが必要だ。これらのデータはほとんどの場合、オンプレミスシステムの中に存在しており、日々更新されている。

　オンプレミスに保存されたデータを使用するならば、AI処理も同じ場所で行うほうが有利である。なぜなら、データアクセスのレイテンシー（時間遅れ）を最小化できるからだ。

国内におけるAIサーバー導入事例

　実際にAIサーバーを導入することで、大きな成果を生み出している国内事例も数多く存在する。ここではその中から、3社の事例を紹介したい。

株式会社オー・エル・エム・デジタル

　株式会社オー・エル・エム・デジタルは、数多くのアニメ作品やフルCG作品、VFX映像などを手掛けている企業で、同業界では珍しく研究開発部門を有している。この研究開発部門が取り組んでいるのが、デジタル映像表現の新たな可能性の具現化と、映像制作現場における高効率化の実現だ。

　2024年12月には9つの大学と2社のスタートアップ、オー・エル・エムグループ会社3社で「ANIMINS」という生成AIプロジェクトを発足、その代表事業者となっている。

　ANIMINSの目的は、生成AIがアニメ制作にどう利活用できるのか、制作ワークフローになじむのかを、徹底的に評価・検証すること。そのための基盤システムとして、NVIDIA H100を4基搭載した「Dell PowerEdgeサーバー」を採用している。

　AIサーバーを導入し、自社データのハンドリングを安心して行える環境を構築したことで、原画・動画・仕上げ工程で30％程度の効率化を見込んでいるという。

参考リンク https://special.nikkeibp.co.jp/atclh/NXT/25/delltechnologies1024/

株式会社MASSホールディングス

　株式会社MASSホールディングスは、美容商品の販売やマーケティング、eロジスティックスサービス、eコマースプラットフォームを提供する、日本の美容業界におけるディストリビューターである。同社は2025年8月に「Dell PowerEdge XE」をベースとしたAI基盤を構築している。

　オンプレミスでAIサーバーを動かすことで、AI生成画像の処理時間を「2分」から「20秒」へと6分の1に短縮したほか、インフラコストもクラウドと比較して約80％削減した。この最新インフラは、サロンのお客様向けの「ヘアカラーシミュレーションサービス」の開発などに活用されている。

参考リンク https://www.dell.com/ja-jp/blog/mass-dell-poweredge-ai/

AIサーバー選びで注目すべきポイント

　実際にAIサーバーの導入を検討する際、どのような点に注目すべきなのか。「高性能なGPUを搭載し、処理能力が高い」というサーバーの性能以外で、以下の3つのポイントを挙げたい。

＜AIサーバー選択3つのポイント＞
  • 管理性：GPUの稼働状況も含めた十分な管理性を実現しているか。サーバー環境の電力・冷却の可視化、きめ細かい制御ができるか
  • セキュリティー：セキュリティー専用コプロセッサーや高度な暗号化処理エンジン、セキュアブートなどの機能を搭載しているか
  • 導入実績：導入実績の乏しい製品は、初期トラブルに見舞われるリスクが高いため、ベンダーの導入実績は豊富か

デル・テクノロジーズのAIサーバーが支持される理由

　AIサーバーの領域で市場をリードしている企業の1つが、デル・テクノロジーズだ。その評価の理由は、先に述べたAIサーバー選びで注目すべき3つのポイントをすべてクリアしていること、そして製品ラインアップが幅広く、サポートも充実していることである。

幅広い製品ラインアップ

　デル・テクノロジーズのサーバーラインアップは幅広く、多くがGPU搭載をサポートしているため、目的に応じてモデルを選択しやすい。特に、「XEシリーズ」はNVIDIA H100/H200/HGXを搭載可能で、生成AIのトレーニングにも十分な能力を発揮する。

[画像のクリックで拡大表示]

システム管理・セキュリティー機能

　デル・テクノロジーズのAIサーバーは、GPUやその他のサブシステムの状態を一元管理できる「iDRAC」を標準搭載。システムの電力・冷却管理も最適化できる。

　また、iDRACの最新モデルは、セキュリティー専用プロセッサー、高度な暗号化処理エンジン、セキュアなブートプロセス、量子耐性を備えた認証情報保護機構など、極めて堅牢なセキュリティー機能を備えている。

サポート・コンサルティングサービス

　デル・テクノロジーズは、ハードウエアとソフトウエアの包括的なサポートを提供する「Dell ProSupport」を用意している。加えて、デル・テクノロジーズの上級エンジニアが専用窓口となって、プロアクティブで予測的なサポートを行う「Dell ProSupport Plus」も利用可能だ。

　さらに「Dell AI Factory」というコンセプトのもと、AI導入・活用に関する幅広いフェーズをカバーするコンサルティングサービスを提供していることも大きな特長である。

　これらのサービスを活用することで、最適なAIサーバーの選定から導入、環境構築、AIの業務活用まで、最短ルートで実現できるだろう。

AIサーバー導入は企業成長の必須条件になる

　AI活用におけるデータアクセスの高速化と、自社が主権を持つAIを実現する上で、AIサーバーの導入は重要なポイントだ。これは業種や企業規模とは関係がなく、AI時代に競争力を強化したいあらゆる企業にとって、もはや避けて通れないものである。

　AIサーバーの導入は、これからの企業成長の必須条件になるといえるだろう。

よくある質問

Q.AIサーバーとは？

　AIサーバーはAIの複雑な計算や膨大なデータ処理に特化したサーバーで、以下のような特徴がある。

  • GPUを搭載し、一般的なサーバーよりもメモリー容量が大きく、インターコネクトを備えたものが多い
  • 「液冷式」など、GPUから生じた熱を効率的に排熱できる仕組みを搭載している
  • サーバーダウンなどが発生しにくい、高い可用性と信頼性を誇る

Q.オンプレミスにAIサーバーを導入するメリットは？

　企業がオンプレミスにAIサーバーを導入するメリットは、大きく以下の2つが挙げられる。

  • 「ソブリンAI」の実現により、AIで機密性の高いデータを扱うことができる
  • データアクセスのレイテンシーを最小化できる

Q.AIサーバー選びで注目すべきポイントは？

　AIサーバーの選択時は、サーバーの性能以外に、以下の3つのポイントに注目すべきである。

  • GPUの稼働状況も含めた、十分な管理性を実現しているか
  • セキュリティー専用コプロセッサーやセキュアブートなどの機能を搭載しているか
  • ベンダーの導入実績は豊富か