NPU

分厚い掛け算のドリルを、クラスの全員で解かなければならない場面を想像してみてください。学級委員が1人で最初から最後まで解くとしたら、丸一日かかってしまいます。でも、クラスのみんなで1ページずつ分担すれば、休み時間のうちに終わるかもしれません。

コンピュータの中でも、このように仕事を分担しています。あらゆる雑務をテキパキこなす中央処理装置（CPU）は、1人で何でもこなす学級委員のような存在です。画面の映像を描く画像処理装置（GPU）は、大勢で手分けして同時に解くクラスメイトたちに似ています。

AIが解いている問題は、形がいつでもほとんど同じです。数値を掛けて足し、その答えをさらに掛けて足す、という作業が果てしなく繰り返されます。ドリルの全ページがまったく同じ種類の計算だけで埋め尽くされているようなものです。

そこで、掛け算と足し算だけを担当する生徒たちだけで新しい教室をまるごと作ってしまいました。この生徒たちは他の教科は苦手ですが、任された1教科だけなら誰よりも速く解き明かします。

手分けして解く教室にも、1つ厄介な問題があります。生徒たちが1問解くたびに、教室の外にある遠い倉庫まで数字を取りに行かなければならないとしたらどうでしょう。問題を解く時間よりも、倉庫を行き来する時間の方が長くなってしまいます。

コンピュータにとって、この倉庫にあたるのがメモリ（記憶装置）です。遠くにある数値を呼び出しに行っている間も、電力は消費され続けます。そこでNPUは、計算機と小さな引き出しをすぐ隣にぴったりくっつけ、隣の席へメモを手渡しするかのように数値をやり取りできるようにしました。

もう1つの秘訣は「おおよその計算（近似計算）」です。小数点以下を長く引きずらず、短く切り詰めて計算します。写真の中の顔を見分けるような処理では、桁数を少し減らしても答えはほとんど変わらないからです。

遠くまで取りに行かず、桁数は短く済ませる。この2つの工夫のおかげで、バッテリーで動く手元のスマートフォンでもAIの計算をスムーズに動かせるのです。

だからといって、NPUが他の装置を追い出すわけではありません。掛け算だけを極めた生徒たちに国語の問題を解かせても、学級委員（CPU）のようにはいきません。アプリを起動したりファイルを整理したりする仕事は、今でもCPUの担当です。

GPU（グラフィックス装置）との違いも整理しておきましょう。GPUは、ゲーム画面の描画から動画の編集まで、幅広い教科を万能にこなす優等生集団に近いです。一方のNPUは、1教科に絞り込んだ代わりに、同じ計算をはるかに少ない電力で終わらせることができます。

スマホやノートPCに搭載されるNPUは、活躍する場面が決まっています。巨大なAIをゼロから学習させる仕事は、主にデータセンターの巨大な機器が担当します。データセンター用のAI専用チップの中には、そうした学習に使われるものもありますが、手元の端末にあるNPUは、すでに学習済みのAIが写真を補正したり声を認識したりする瞬間のように、決まった計算を繰り返す場面で真価を発揮します。

そのため、最近のスマートフォンや一部の新型ノートPCでは、この3種類の処理装置が1つのチップにまとまって入っていることが一般的です。作業の性質を見極めて最適な担当者に任せることこそ、現代のデバイスの賢い働き方なのです。