AI投資の重心が「学習」から「推論」へ。ガートナー予測で逆転

「学習」から「推論」へ、AI投資の重心が逆転
OpenAI「Astra」の開発を無期限停止
100万トークン0.20ドル。「Luna」が支える常時稼働エージェント
Google DeepMindも体制を刷新
企業やマーケターが考えておきたいこと
参照元

「学習」から「推論」へ、AI投資の重心が逆転

AIインフラへの投資の中身が大きく変わりつつあるという話があったので、調べてみました。ガートナーの最新予測によると、2026年の世界全体でのAI推論（Inference）への支出額は233億ドルに達し、基礎モデルの新規学習（Training）への支出額190億ドルを初めて上回る見込みだということです。

これまで数年間、AI業界では「モデルのパラメータ数を競う大規模学習」が投資の中心でした。しかし企業のAI活用がPoC（概念実証）段階から、実際のユーザーが日常的に使うプロダクション段階に移ってきたことで、24時間クエリを処理し続ける「推論」のためのサーバー処理能力の確保が優先課題になってきているようです。NVIDIAのBlackwell（GB300、B300シリーズ）は依然として高価格帯で調達に時間がかかるとも言われる中、投資家が注目しているのは「モデルのスペック」よりも「1トークンあたりの推論コストをどれだけ下げられるか」という運用面のようです。

OpenAI「Astra」の開発を無期限停止

こうした推論シフトと並行して、フロンティアモデルの開発現場では新たな課題も出てきています。OpenAIは、次期モデル「Astra」が内部のセキュリティ検証で「Critical」レベルのサイバーセキュリティリスクに達したとして、開発ロードマップを無期限に一時停止すると発表しました。背景には、Astraが「人の手を介さずに、動的なネットワーク環境下で自律的に脆弱性を探し、それを狙った攻撃コードを自分で生成・実行できる」というかなり高度な能力を実証したことがあるようです。これは従来のハルシネーションや不適切な出力とは次元が異なり、実行環境と結びついたエージェント型モデルが、実際のITインフラへのハッキングツールになり得ることを示しています。OpenAIは防御専用のセキュリティモデル「GPT-5.6-Cyber」の展開や、サイバー防衛の取り組み「Daybreak」の拡充で対応を進めていますが、フロンティアモデルの展開方針を見直すきっかけになりそうです。

100万トークン0.20ドル。「Luna」が支える常時稼働エージェント

Astraが開発停止となった一方、実用面でエージェントの普及を後押ししているのが、GPT-5.6ファミリーの軽量・高速モデル「Luna」です。OpenAIはLunaのAPI利用料金を「100万入力トークンあたり0.20ドル」という、これまでにない水準まで下げました。OpenAIとGoogleがそれぞれ月間アクティブユーザー10億人を超えたことを背景に、企業のワークフローをAPIレベルで取り込もうとする狙いがあるとみられます。月額125ドルの「ChatGPT Business Premium」などで使える「常時稼働（Stateful）のバックグラウンドエージェント」は、ユーザーが画面を閉じた後もAPI呼び出しを繰り返し、数万回規模のツール実行や推論を続けます。こうした使い方ではトークン単価が利益率に直結するため、100万トークン0.20ドルという価格は「一つの業務プロセスに1万回以上の推論ステップをかけるマルチエージェント運用」を現実的な選択肢に変えつつあるようです。

Google DeepMindも体制を刷新

推論中心の流れは、競合のGoogleの組織体制にも影響しています。Googleは、DeepMindの共同創業者デミス・ハサビス氏を日常の経営・製品統括の第一線から外し、ジェフ・ディーン氏は新研究所「Discovery Loop」設立のために退職するなど、リーダーシップを大きく入れ替えました。現在、Gemini部門の実権は、商用インフラとエージェント実行の最適化を専門とするコライ・カヴクチュオグル氏が握っているとのことです。Geminiの月間アクティブユーザー数が10億人を超え、「Gemini Live」ではユーザーの20%がカメラや画面共有を使ったマルチモーダル通信を利用している状況で、DeepMindに求められる役割も、自社製TPUやNVIDIAのBlackwellインフラの性能を引き出し秒間数百万件のリアルタイム推論をさばく「推論エンジニアリング」へと比重が増しているようです。

企業やマーケターが考えておきたいこと

「高性能な基盤モデルを自社でゼロから学習・追加学習する」という投資判断は、今後は割に合いにくくなっていきそうです。企業にとって現実的な選択肢は、Lunaのような低価格な推論エンジンを常時稼働エージェントの土台として採用し、自社独自のデータやワークフローに開発リソースを集中させることだと言えそうです。同時に、Astraの事例のように自律型エージェントが想定外のAPIコールや攻撃的な動作を自律実行してしまうリスクも踏まえ、API実行環境のサンドボックス化や推論トークンの消費上限設定が、今後のシステム設計で重要になってきそうです。「賢いモデルを自社で作る」より「低価格な推論インフラの上で自律型エージェントを安全に動かす」という発想へのシフトが求められています。