AI
【CUDAとカーネル】GPUの乗り換えが難しかった理由と、AIで何が変わりそうか
NVIDIAのGPUを使う開発の土台「CUDA」と、その上で動く計算の部品「カーネル」を、他社のGPUへ移るときに何が手間になるのかとあわせて整理します。
目次
The Decoderの11/11の記事によると、Anthropicは投資家向けの説明資料で、今年初めてAMDのGPUを使った際に自社のモデルMythosがカーネルのほぼ100%を書くか移植し、人の手をほとんど借りずに3日でClaudeが動いたと説明しました。これまで新しいチップの立ち上げには、数十人の技術者が数か月かかっていたとしています。数字はAnthropicの資料によるもので、独立した検証はされていません。
とはいえ、「GPUを別の会社のものに替える」のに、なぜそれほど手間がかかっていたのかは見えにくいところです。この記事では、CUDAとカーネルの関係と、乗り換えのどこに手間がかかるのかを整理します。
TOPICS
