オンデバイスAI

気になることが出てくるたびに、遠く離れた本社へ電話をかけて聞いているところを想像してみてください。返事をもらうまで信号が行き来する時間がかかりますし、電話が切れたら何もできなくなります。これまで私たちが使ってきたAIサービスの多くは、データセンターにある巨大なコンピューター（サーバー）が計算を一手に引き受ける、クラウド方式で動いていました。

いっぽうオンデバイスAIは、手元のスマートフォンの中に、賢い小さな頭脳を直接埋め込んだようなものです。写真を補正したり、外国語をリアルタイムで翻訳したりするとき、インターネットにつながなくても、機器ひとつですぐに計算を終わらせます。飛行機の中や、電波の届かない山奥でも止まることなく、しっかり役目を果たしてくれます。

通信網を通らないので、信号が行き来する遅延時間（レイテンシ）もほとんどなくなります。ボタンを押したとたんに反応が返ってきますし、毎月の通信データ量を気にする心配も減らせます。

クラウドのAIを使うときは、自分が書いた日記や家族写真、通話の録音ファイルが、通信網に乗って外のコンピューターへ飛んでいく必要があります。企業がどんなに厳重な暗号化やセキュリティ対策をしていても、大切な個人情報が外の世界へ送られた瞬間から、漏えいの危険はつねに残ります。

いっぽうこの方式では、データを分析して判断するすべての過程が、ポケットの中の機器の内側だけで静かに行われます。ユーザーが入力した音声や画像の元データが外部のサーバーにまったく送られないので、個人情報が漏れる危険を大きく減らせます。企業のデータセンターがハッキングされても、そのサーバーには私の元データはない、ということです。ただし、機器そのものをなくしたり、悪意のあるアプリが入り込んだりする危険までなくなるわけではありません。

こうした安全面の利点のおかげで、デリケートな健康データを扱うスマートウォッチや、顔認証でドアを開けるスマートロックのような身近な機器でも、安心してAI機能を使えるようになります。

スマートフォンのような小さな機器は、巨大なビルほどもあるデータセンターのように大量の電気を自由に使うことはできませんし、熱を冷ますのにも限界があります。そのため、手のひらサイズの機器にAIを入れるには、もとは数百ギガバイトもあった巨大なAIプログラムを軽く小さくする、本格的なダイエットが欠かせません。

複雑な数式をシンプルに圧縮する軽量化の技術とあわせて、AIの演算だけを電光石火の効率で処理するニューラルネットワーク処理装置（NPU）という半導体を機器に搭載します。電力はごくわずかしか使わないのに、AIの計算に限れば一般的なコンピューターのチップよりずっと速く効率的にこなす、特別な頭脳です。

もう少し正確にいうと、今日のAI機器は、どちらか一方だけを使うのではなく、ハイブリッド方式をとっています。かんたんな写真編集やリアルタイムの音声通訳は機器の中ですばやく処理し、膨大な知識が必要な複雑な文章づくりは、クラウドサーバーの助けを借りて処理する、といった具合です。