この「オンデバイス」AIの大きな利点は何でしょう?

オンデバイス、すなわち「エッジ」AIは、遠く離れたデータセンターにリクエストを送るのではなく、スマートフォン自体のチップ上で直接動作する。これにより、同時通訳や写真編集といった機能はインターネット接続がなくても動き続けられるようになり、また音声や写真といった自分のデータが端末から一切外に出ないため、そのデータを遠くのクラウドサーバーに送る場合と比べて、意味のあるプライバシー上の利点も得られる。

オンデバイスAIはクラウドAIよりもモデルをはるかに大きくするものではない。むしろその逆で、スマートフォンのハードウェアは処理能力やメモリ、バッテリー寿命に厳しい制約があるため、オンデバイスモデルはより小さく効率的にならざるを得ない。また常時5G接続を必要とするものでもない。まさにネットワークがまったくなくても動作できることこそが要点なのだ。

スマートフォンのチップがAI処理に対してより強力になるにつれ、メーカー各社はこうした小型モデルをバッテリーを消耗させずに効率よく動かすために設計された、専用の「ニューラル・プロセッシング・ユニット」を端末にますます組み込むようになっている。