半導体界隈が賑わってますが、生成AIってそんなに凄いのですか？

生成AIは順調に発展していけば、人類の在り方を変えるぐらいすごい技術ではあります。でも、昨今の半導体株の上昇は、AIとは無関係なものでも上がっていますね。

ちなみに現在、大規模言語モデル(LLM)の膨大な情報処理にはGPUが使われています。だからGPUに強いNvidiaの株価が爆上げしています。でも、今後、LLMの処理は次第にGPUではなく専用のASICやFPGAで処理するのが主流になって行く、というのが僕の個人的な予測です。

ASICやFPGAには現状、機械学習ライブラリー、つまりフレームワークがGPUに比べると不足しているという致命的な弱点がありますが、これは次第に解消されて行くんではないでしょうか。後は実装の難しさなどをどう解消して行くか。

GPUはやっぱり電力効率が悪いですよ。設計要件が頻繁に変わる生成AIに柔軟に対応できて、メモリアクセス回数もGPUに比べると少ない。そして電力効率が良いFPGAを手掛けている企業が次の主役に躍り出る可能性があると僕は考えています。なのでFPGAに強い半導体企業を仕込んでいます。知らんけど🤣。