NVDAの弱みにつけ込んで、QCOMやベンチャー企業が消費電力の低いGPUを開発することも、現実的ではない夢物語でしょうか。

質問

2024年08月13日　回答

CUDAを維持する為に消費電力の高いプロセッサの構造を変えられないというNVDAの弱みにつけ込んで、QCOMやベンチャー企業が消費電力の低いGPUを開発することも、現実的ではない夢物語でしょうか。

回答

それこそが肝なんじゃない。CUDAのGPUとしての性能は圧倒的。そしてもともとはグラフィック処理をするものだと考えられていたGPUで汎用計算をさせるという画期的なソリューションを、NvidiaのCUDAプロジェクト責任者のイアン・バックが思い付いた。それこそがCUDAで、以来、NvidiaのGPUの上ではグラフィックスライブラリ以外に数学ライブラリなどいろんなライブラリが動くようになり、Nvidiaの今がある。AIを処理する「CUDA-X AI」もCUDAの上で動作する高速化ソフトウェアライブラリの1つに過ぎない。

でもイアン・バックがCUDAプロジェクトを進めたのは2006年。初代のiPhoneをAppleが発表したのは2007年だったし、当時スマホがここまでのものになるとは想定外だった。CUDAが当初プラットフォームとして想定したのはデスクトップPCやワークステーションで、スマホでの利用なんて頭の片隅にもなかったと思う。

だから電力をバカバカ消費する。高速に処理するために消費する。そしてスケーラビリティにはあんまり配慮されていない。

CUDAをたくさん積んだハイエンドのGeForceはライバルに勝つため、省消費電力はほとんど考えられていない。ノートPC向けに「GeForce RTX4060 Laptop GPU」という製品があるんだけど、ハイエンドのRTX4090と比較すると、ベンチマークでのパフォーマンスはだいたい4-5分の1だし、それでも消費電力は35W-135Wの可変。

ノートPCで使ってすら、電源ケーブルに繋ぐのが前提としか思えないのに、こんなもんスマホでは搭載できないよ。あっという間にバッテリー切れ。少なくとも現時点では、Nvidiaはスマホ向けのAI処理ソリューションを提示出来ていない。それが現実。

その点、QualcommのSnapdragon 8は、デスクトップPCでCUDAのライバルになるのはまだキツイけれど、モバイル、特にスマホではNvidiaに影さえ踏ませない。

プライムコアとパフォーマンスコア、効率コアを組み合わせるという特殊なアーキテクチャを採用している上に、AIを処理するHexagonNPUというNPUでは、2022年のGen2から2023年のGen3は、98%とほぼ2倍近い演算能力向上を達成しながら、約40%の消費電力向上を果たしている。これでXiaomiなど大手スマホメーカーがQualcommをハイエンドモデルでこぞって採用した。

後の焦点は、自前で踏ん張ろうとしているAppleとGoogleが、いつその軍門に降るかなんだけれど、さてどこまで自前で頑張れるか注目だね。少なくともこの競争ではNvidiaはほぼ対象外。

だけどいずれはスマホでも生成AIを使う時代が来るんじゃないかと、僕は考えている。