ソフトバンク、AI計算基盤のGPU故障に苦戦も「NVIDIA DGX SuperPOD」で安定稼働を実現

「（AI計算基盤を使うユーザー側の要望もあるが）『構築時の最新GPUを使えるか』『GPUの性能を最大まで使えるか』『決められた期限内に安定稼働させられるか』といった点が重要でした。NVIDIA DGX SuperPODを選んだ理由は、ここにあります」

種邑さんによると第1世代を構築した2023年当時、米AMDなどのベンダーが提供するAIシステムは、大規模な計算基盤として検証されていなかったという。一方のNVIDIA製システムは、スパコン世界ランキング「TOP500」の上位に入る多くのコンピュータに搭載されているなど実績があった。

AIシステムとして完成されている点も、NVIDIAの強みだ。GPUの性能を引き出せるAIサーバ「DGXシリーズ」、大容量データを高速に伝送できるネットワーク機器、AIモデルの学習・推論に必要なソフトウェアをセットにした「NVIDIA AI Enterprise」などを一体的に導入することで、高性能なAIシステムを素早く構築できるとされる。

GPU巡るトラブルも 壊れ過ぎて「みんなビビった」

AI計算基盤の構築時、GPUを巡ってさまざまな苦労があったという。その一つが、GPUが頻繁に故障したことだ。AI処理は、GPUにかかる負荷が高いため故障しやすいという難点があるのだ。

「AI用のGPUは、従来のITインフラで使っていたサーバなどよりも故障が多い。AI計算基盤を作り、性能試験をして安定稼働させるまでにGPUがどんどん壊れました。こんなに壊れると知らないため、みんなビビりました」（種邑さん）

第2世代以降の構築プロジェクトに参画し、サーバ関連を担当したソフトバンクの横山哲雄さん（AIクラウド開発部 部長）もGPUの故障問題に頭を悩ませたという。

「GPUは希少で国内の在庫が少ないため、かき集めて、順次修理をしました。他のIT製品にはない独特な苦労でした」（横山さん）

ソフトバンクはGPUの故障問題に向き合いながら、AI計算基盤の性能をアップグレードしてきた。現在はAI計算基盤群をクラウドサービスとして他社に貸し出し、企業のAI開発を後押しする。

国内屈指のAIインフラを運用する同社は、日本の“AI変革”を加速させられるか。