AMDがAI推論市場でNvidiaに挑む—ラックスケールシステム「Helios」とMI455Xの衝撃

AMDがAI市場に注ぐ莫大な資金と高まる期待

AMDのCEOであるリサ・スー氏は、AIトレーニングの計算需要が2020年以降、毎年5倍のペースで増加していると強調しました。この傾向は今後も続くと見られており、AIモデル開発者にとって計算能力の確保がますます重要になっています。しかし、今回の発表で最も注目すべきは、AIワークロードの重心がトレーニングから 推論 へと大きくシフトしている点です（出典）。

スー氏によると、AIアクセラレータ市場におけるトレーニングと推論の比率は、昨年まで約50:50だったものが、今年は推論が60%、トレーニングが40%になると予測されています。

数年前の予測では、最終的に推論がトレーニングの3〜4倍の計算量（および収益）を生み出すとされていましたが、その転換期がいよいよ到来していると感じます。推論が主流となることで、GenAIモデルをAPI経由で利用する企業や、自社でライセンスモデルやオープンソースモデルを運用する企業が増加し、市場規模が爆発的に拡大する可能性があります。これはクラウドのコスト最適化を検討するエンジニアにとって、見逃せないトレンドでしょう。

ラックスケールAIシステム「Helios」とMI455Xアクセラレータの詳細

AMDは、Nvidiaに真っ向から対抗するラックスケールAIシステム「Helios」を発表しました（出典）。このHeliosは、同社が「業界最高のパフォーマンスを持つAIラック」と称しており、世界中の大規模なフロンティアモデルをトレーニング・実行するために設計されています。今年の後半には、Microsoftを含むOEMおよびODMパートナーを通じて出荷が開始される予定です。

Heliosの中核をなすのは、新しいMI400アーキテクチャに基づくMI455Xアクセラレータ、通称「Altair」です（出典）。このCDNA 5ベースのアクセラレータは、データセンターにおけるAIワークロードのために最適化されており、AMDのAI戦略を大きく左右するでしょう。私の自宅のRTX 3090でローカルLLMを動かす身としては、データセンター向けのこれほどの高性能GPUが一般にどう降りてくるのか、非常に気になるところです。

トークン消費量の爆発的増加が示す未来

スー氏が提示したデータによると、GenAIモデルによる月間トークン消費量は、2024年1月から今年2月にかけて驚異的な増加を示しています。Exponential Viewの推計では、今年2月には月間35京トークンが消費されたとされ、7月末には50京トークンに達する勢いです（出典）。

AI処理に対する需要は依然として供給を上回っており、これがAIシステムへの数百億ドル規模の投資を正当化しています。

この爆発的なトークン消費量の増加は、AIモデルを動かすためのハードウェア需要が今後も高まり続けることを示唆しています。我々開発者としては、この供給不足がいつ解消され、高性能なAIインフラがより手頃な価格で利用できるようになるのか、あるいはCloud Runのようなサービスで利用できるGPUオプションが充実するのか、今後の動向を注視する必要があると感じます。個人的には、Pythonバインディングが充実していると、自分の個人プロダクトにも組み込みやすいので、そのあたりの情報公開にも期待したいです。

AMDのロードマップと今後の展望

AMDは、MI455Xを搭載するHeliosシステムに加えて、今後登場するEpyc 9006プロセッサ「Venice」に関する新しい詳細も公開しました。これらの製品が連携することで、AIワークロードにおけるAMDのエコシステムはさらに強化されることでしょう。

現在、AIインフラ市場はNvidiaが圧倒的なシェアを占めていますが、AMDの積極的な投資と新製品投入は、競争を活性化させ、イノベーションを加速させる可能性を秘めています。GCPユーザーとしては、これらの高性能なAMD製GPUがCloud TPUのように、いずれGoogle Cloudのサービスで利用できるようになるのかも気になるところです。

AIチップの価格動向、特に為替（JPY/USD）の影響は、海外製品の価格に直結するため、私自身も注意深く見守っています。高性能AIチップの供給が安定し、コストパフォーマンスが向上すれば、より多くの企業や開発者がAI活用を加速できると期待しています。