【テクノロジー】AIの今後の発展​：AI推論とエッジコンピューティングが次なる大きな成長の可能性！

※「【テクノロジー】AIの今後の展望​とは？ビッグテックによる27兆円のAI投資の真相とAI市場の将来性を徹底解説！」の続き

前章では、AIの今後の展望​とビッグテックによる巨額のAI投資に関して詳しく解説しております。

本稿の内容への理解をより深めるために、是非、インベストリンゴのプラットフォーム上にて、前章も併せてご覧ください。

コンピュート市場：エヌビディア（NVDA）の独占を超えて

AIインフラの中核を担うコンピュート市場では、現在エヌビディア（NVDA）のGPUが圧倒的な地位を占めています。

同社のH100 GPUは、CUDAエコシステムとの強力な統合と卓越したパフォーマンスにより、AIモデルトレーニングの標準として広く認識されています。

エヌビディアはAI向けGPU市場の約80％を占め、データセンター関連の四半期収益は140億ドルを超える規模に達しています。

しかし、コンピュート市場は徐々に分散化が進んでおり、新たな競争相手に成長の機会が広がりつつあります。

その中でも注目されるのがAMD（AMD）です。

同社のMI300X GPUは、大容量のVRAMにより大規模なバッチ処理で高いスループットを提供しています。

エヌビディアはそのソフトウェアエコシステムの強さで依然として優位性を保っていますが、AMDはコストパフォーマンスの良さや推論ワークロードでの採用拡大を武器に、着実にその存在感を強めています。

カスタムシリコンがGPUの独占に挑む

グーグル（GOOG：TPU）、アマゾン（AMZN：Trainium）、マイクロソフト（MSFT：Maia）といったハイパースケーラーは、特定のワークロードに対応する独自のAIアクセラレーターを開発し、コスト効率の向上を図っています。

これらのASIC（特定用途向け集積回路）は、大規模なAI推論において、総所有コスト（TCO）の削減を可能にします。

メタ・プラットフォームズ（META）も独自のMTIAチップを開発し、この分野に参入。

一方、Cerebras、Groq、d-Matrixといったスタートアップも、AI推論の拡大する需要に応えるために最適化されたアーキテクチャを構築しています。

GPUがAIトレーニングの分野で圧倒的な地位を築いている一方で、AI推論（トレーニング済みモデルを使用して予測を生成するプロセス）は、さらに大きな市場機会を提供します。

エヌビディアのジェンセン・フアンCEOは、推論ワークロードが今後10年間で10億倍に増加すると予測しています。

推論はトレーニングと異なり、低遅延、分散型展開、オンデマンドでのスケーラビリティが必要とされるため、市場はますます競争が激化しています。

AMD、クアルコム（QCOM）、インテル（INTC）などの大手に加え、エッジやオンプレミス向けの推論ソリューションを提供するスタートアップがこの市場で重要な役割を果たしています。

コンピュート市場の未来は「専門化」にあると言えるでしょう。

そのため、投資家は、エッジ向けワークロードに特化したASICを開発するスタートアップや、ハードウェアの効率性を向上させるソフトウェア最適化を進める企業に注目することが重要です。

ネットワーク：データフローのボトルネックとアリスタ・ネットワークス（ANET）の強み

AIの計算能力が進化しても、堅固なデータ接続がなければその価値は半減します。

モデルが大規模化し複雑になるにつれ、GPU、サーバー、ストレージシステム間で膨大なデータを効率よく移動させることが課題となり、これが主要なボトルネックとなっています。

その結果、ネットワーク技術はAIインフラの中で極めて重要な要素となっています。

エヌビディアが2020年にMellanoxを買収したのは、極めて先見の明のある動きでした。

この買収により、同社はInfiniBand技術を通じて高性能ネットワーキング分野のリーダーとなりました。

InfiniBandは従来のイーサネットと比較して低遅延かつ高スループットを提供し、特にGPU間で高速なデータフローが必要なAIワークロードに最適です。

また、エヌビディアの統合プラットフォーム「DGX SuperPods」は、InfiniBandとGPUを組み合わせることでエンドツーエンドのAIシステムを実現し、同社の市場でのリーダーシップをさらに強化しています。

一方で、アリスタ・ネットワークス（ANET）はデータセンター向けイーサネット市場で大きなシェアを獲得しており、特にハイパースケーラーの間で強い影響力を持っています。

アリスタ・ネットワークスの高速スイッチはサーバーとストレージシステムを接続し、CEOのジェイシュリー・ウラル氏は、最終的にイーサネットがAI向けネットワークの標準としてInfiniBandを上回ると予測しています。

さらに、AIワークロード向けのイーサネットソリューションを開発する「Ultra Ethernet Consortium」の台頭は、この長期的なトレンドを象徴しています。

現在、InfiniBandは高性能コンピューティング分野で支配的な地位を維持していますが、投資家はイーサネットの進化や新しいネットワーク技術を提供するスタートアップの動向を注視する必要があります。

たとえば、マーベル・テクノロジー（MRVL）やブロードコム（AVGO）のようなネットワーキングチップ（NICやDPU）を設計する企業は、データフローの最適化や遅延削減において重要な役割を担っています。

InfiniBandとイーサネットの競争は依然として決着がついておらず、その勝者がAIインフラの未来を大きく形作ることになるでしょう。

AI推論とエッジコンピューティング：次なる大きな成長の可能性

これまでAIの中心的な話題はトレーニングに集中していましたが、現実のアプリケーションでトレーニング済みモデルを使い予測を行う「AI推論」が、次の大きな成長分野として注目されています。

AIアプリケーションの普及がさまざまな業界に広がる中、推論ワークロードはトレーニングワークロードを大幅に上回ると予測されています。

推論の仕組みはトレーニングとは本質的に異なります。

トレーニングが集中型のGPUクラスターに依存するのに対し、推論はエンドユーザーの近く、いわゆる「エッジ」で実行できます。

これにより、遅延が大幅に削減され、自動運転車、ロボティクス、スマートデバイスといったアプリケーションでリアルタイムの意思決定が可能になります。

すでに多くの企業がエッジ推論に特化したハードウェアを開発しており、アップル（AAPL）のNeural Engine、クアルコムのSnapdragon NPU、インテルのGaudiチップ、AMDのRyzen AIプロセッサーなどがその代表例です。

推論市場の競争環境は、トレーニング市場よりもはるかに多様化しています。

エヌビディアは依然としてこの分野で優位に立っていますが、システムのスケーラビリティや信頼性に対する要求が少ないため、その優位性はトレーニング市場ほど盤石ではありません。

一方で、Groq、Cerebras、Hailoといったスタートアップは、推論に特化したアーキテクチャを開発し、コストや性能面でエヌビディアのGPUに挑戦しています。

また、新たなトレンドとして、Fireworks AIやTogether AIのような推論プロバイダーの登場があります。

これらの企業は、ハードウェア管理の複雑さを排除し、オープンソースモデルを実行するためのAPIを提供しています。

このアプローチは、クラウドプラットフォームがインフラストラクチャの提供方法を革新したのと同じような変化をもたらしています。

さらに、CoreweaveやCrusoeといったGPUクラウドインフラを推論向けに提供する企業も、注目を集めています。

以上より、投資家にとって、エッジ推論は高い成長が期待されるセグメントとなっています。

効率的な小規模モデル、最適化されたエッジ向けハードウェア、そして魅力的なユースケースが融合することで、巨大な価値が生まれるでしょう。

そして、推論専用のハードウェアやエッジプラットフォーム、エネルギー効率の高いシステムを開発する企業が、この変革をリードしていくことになるでしょう。

AIの今後の見通しと投資チャンス

AI市場はまだ発展途上であり、そのバリューチェーンには成熟と未成熟が混在しています。

GPU分野でのエヌビディアやネットワーク分野でのアリスタ・ネットワークスの優位性は成熟した部分を示していますが、エコシステム全体では新たな成長機会が続々と生まれています。

まず、推論ワークロードは今後急増が予想され、トレーニング市場と比べて競争がより活発です。

推論に特化したASICやDPUなどのハードウェア、エッジソリューションを提供する企業が、既存の大手企業に挑み、市場シェアを獲得する可能性があります。

そして、ネットワーク分野でも大きな変革が期待されています。

現在、エヌビディアのInfiniBandがリードしていますが、イーサネットの長期的な可能性や進化も注視すべきです。

マーベル・テクノロジーやブロードコム、そしてAI向けネットワークソリューションを開発するスタートアップなどの企業は、データセンターのボトルネックが計算能力以外の領域に広がる中で、大きな利益を得るチャンスを迎えるでしょう。

特にエッジ分野は、今後の成長で最も注目すべき未開拓の領域です。

計算能力がデバイスに近い場所へと移行する中、エッジデータセンター運営者、ハードウェアメーカー、リアルタイムAIアプリケーションを可能にするソフトウェアプラットフォームなど、さまざまな企業に新たなビジネス機会が広がっています。

また、エネルギーと冷却システムは、AIインフラの構築において見過ごされがちなものの、極めて重要な要素です。

AIワークロードの高い電力消費に対応するためには、エネルギー管理、効率的な冷却技術、電力グリッドの最適化といった革新が欠かせません。

バーティブ・ホールディングス（VRT）やSchneider Electric（SBGSF）のようなこれらの分野に特化した企業は、AIインフラ需要の拡大とともに成長が期待されます。

まとめると、投資家はGPUやデータセンターのネットワーキングといった明確な勝者だけでなく、新たな成長分野にも目を向けるべきです。

AI成長の次のフェーズは、専門化、効率化、分散化が鍵となります。

計算能力は細分化され、ネットワーキングは進化し、エッジ推論はさらに拡大していくでしょう。

これらの新たな機会に注目することで、投資家はAI革命の最前線に立つことができるでしょう。

また、私をフォローしていただければ、最新のレポートがリリースされる度に、リアルタイムでメール経由でお知らせを受け取ることが出来ます。

私のテクノロジー関連、並びに、バリュー株や配当株に関するレポートに関心がございましたら、是非、フォローしていただければと思います。

加えて、インベストリンゴのテクノロジー・半導体セクターアナリストであるダグラス・ オローリン氏が、今後のAI市場の見通しに関する下記の詳細なレポートを執筆しております。

詳細に関心がございましたら、是非、インベストリンゴのプラットフォーム上より、併せてご覧いただければと思います。

Part 1

Part 2

Part 3