Quration Play

tech

Handyhersteller führen KI-Funktionen wie Live-Übersetzung und Fotobearbeitung zunehmend direkt auf dem Gerät aus, statt deine Daten an einen entfernten Server zu senden.

Was ist ein zentraler Vorteil dieser 'On-Device'-KI?

Sie funktioniert offline und schützt Daten besser
Modelle lokal, also 'am Edge', auszuführen bedeutet, dass Anfragen nicht in die Cloud wandern; so funktionieren Funktionen auch ohne Internet und persönliche Daten bleiben auf dem Gerät. Der Nachteil ist, dass die Chips im Handy begrenzen, wie groß und leistungsfähig das Modell auf dem Gerät sein kann.

KI auf dem Gerät, oder "Edge"-KI, läuft direkt auf dem eigenen Chip eines Telefons, statt Anfragen an ein weit entferntes Rechenzentrum zu schicken. Das bedeutet, dass Funktionen wie Live-Übersetzung oder Fotobearbeitung auch ohne Internetverbindung weiterlaufen, und da die eigenen Daten, etwa Stimme oder Fotos, das Gerät nie verlassen, bietet das auch einen echten Vorteil bei der Privatsphäre gegenüber dem Versenden dieser Informationen an einen entfernten Cloud-Server.

KI auf dem Gerät macht Modelle nicht weit größer als Cloud-KI; das Gegenteil trifft zu, da Telefonhardware engere Grenzen bei Rechenleistung, Speicher und Akkulaufzeit hat, was On-Device-Modelle zwingt, kleiner und effizienter zu sein. Sie braucht auch keine dauerhafte 5G-Verbindung; der ganze Sinn liegt darin, dass sie ganz ohne Netzwerk funktionieren kann.

Da Telefonchips für KI-Aufgaben leistungsfähiger geworden sind, haben Hersteller zunehmend eigene "Neural Processing Units" in ihre Geräte eingebaut, Hardware, die darauf ausgelegt ist, diese kompakten Modelle effizient auszuführen, ohne den Akku zu belasten.

▶ Quration Play

tech

Wie erreicht ein 'Mixture of Experts'-Modell das?Wie nennt man dieses von KI erzeugte Trainingsmaterial?Wie heißt der zweite Ansatz, das Training mit Beispielen?Wie funktioniert dieses Text-'Wasserzeichen' im Allgemeinen?Wie heißt diese Trainingstechnik?Wie heißt diese Komprimierungstechnik?Wie nennt man KI-Modelle, die mehrere Eingabearten zugleich verarbeiten?Welches Unternehmen betreibt diesen vollständig fahrerlosen kommerziellen Robotaxi-Dienst?Welche Stufennummer ist auf der bekannten SAE-Skala die höchste und steht für volle Automatisierung?Wie heißt der humanoide Roboter, den der Autohersteller Tesla vorgestellt hat?Welches Unternehmen war Vorreiter dieses medizinischen Drohnenlieferdienstes in Afrika?Amazons Lagerroboter gingen aus dem Kauf welches Roboterherstellers im Jahr 2012 hervor?

Quration — Quration Play