【NPU】AI向けの計算チップ「NPU」とは何か、GPUと何が違うのか

NVIDIAは11/8、韓国のAIチップ企業Rebellions、通信大手SK Telecomとの協業を発表しました。Rebellionsは次世代チップ「Rebel R200」のNPU（neural processing unit）を、NVIDIAの接続技術NVLink Fusionでつなぎます。リリースによると、R200は低遅延で電力効率のよい推論に最適化して開発中で、システムの導入準備は2028年の見込みです。

ニュースを読むと、NVIDIAのGPUと並んでNPUという言葉が当たり前のように出てきます。ところが、NPUとは何を担当し、GPUと何が違うのかは、記事を読んだだけでは分かりにくいところです。この記事では、NPUの考え方とGPUとの違いを整理します。