Quel est un avantage clé de cette IA 'embarquée' ?

L'IA embarquée, ou « en périphérie » (edge AI), s'exécute directement sur la puce du téléphone plutôt que d'envoyer des requêtes vers un centre de données distant. Cela signifie que des fonctionnalités comme la traduction en direct ou la retouche photo continuent de fonctionner sans connexion internet, et comme les données de l'utilisateur, comme sa voix ou ses photos, ne quittent jamais l'appareil, cela offre aussi un avantage réel en matière de vie privée par rapport à l'envoi de ces informations vers un serveur cloud distant.

L'IA embarquée ne rend pas les modèles bien plus grands que l'IA en cloud ; c'est même l'inverse, le matériel des téléphones ayant des limites plus strictes en puissance de calcul, en mémoire et en autonomie de batterie, ce qui oblige les modèles embarqués à être plus petits et plus efficaces. Elle n'exige pas non plus une connexion 5G constante ; tout l'intérêt est qu'elle peut fonctionner sans aucun réseau du tout.

À mesure que les puces des téléphones sont devenues plus puissantes pour les tâches d'IA, les fabricants ont de plus en plus intégré dans leurs appareils des « unités de traitement neuronal » dédiées, un matériel conçu pour exécuter ces modèles compacts efficacement sans épuiser la batterie.