tech

Eine neue Generation von KI-Modellen hält inne, um vor der Antwort Schritt für Schritt zu „denken“, und verbraucht im Moment der Frage zusätzliche Rechenleistung, nicht nur beim Training.

Was ist der Hauptvorteil dieser „Reasoning“-Modelle?

Q: Was ist der Hauptvorteil dieser „Reasoning“-Modelle?

Bessere Antworten bei schwerer Mathematik und Logik. Indem sie eine verborgene Gedankenkette erzeugen, tauschen Reasoning-Modelle wie OpenAIs o1 langsamere, teurere Antworten gegen große Fortschritte bei komplexer Mathematik, Code und Logik. Dieses „Rechnen zur Antwortzeit“ zeigt, dass längeres Nachdenken besser sein kann, als das Modell nur größer zu machen.

Bessere Antworten bei schwerer Mathematik und Logik ✓
Sie brauchen nie eine Internetverbindung
Sie nutzen viel weniger Speicher als ältere Modelle

Bessere Antworten bei schwerer Mathematik und Logik
Indem sie eine verborgene Gedankenkette erzeugen, tauschen Reasoning-Modelle wie OpenAIs o1 langsamere, teurere Antworten gegen große Fortschritte bei komplexer Mathematik, Code und Logik. Dieses „Rechnen zur Antwortzeit“ zeigt, dass längeres Nachdenken besser sein kann, als das Modell nur größer zu machen.

Reasoning-Modelle halten inne, um ein Problem in Zwischenschritten durchzuarbeiten, bevor sie eine endgültige Antwort liefern, statt eine Antwort in einem einzigen sofortigen Durchgang zu erzeugen, wie frühere Chatbots das meist taten. Indem sie im Moment einer Frage zusätzlichen Rechenaufwand investieren und intern eine Art Denkskizze erzeugen, können diese Modelle Fehler erkennen, mehrere Ansätze durchprobieren und mehrstufige Probleme bewältigen, was die Leistung bei schwerer Mathematik, Logikrätseln und komplexen Programmieraufgaben merklich verbessert.

Diese Modelle brauchen weiterhin eine Internetverbindung, wenn sie über einen Cloud-Dienst laufen, diese Option missversteht also, wie sie eingesetzt werden. Sie verwenden auch nicht weniger Speicher als ältere Modelle; das zusätzliche schrittweise Nachdenken beansprucht pro Antwort eher mehr Rechenressourcen, da die Erzeugung dieses verborgenen Denkprozesses zusätzliche Verarbeitungszeit und Energie kostet.

Das zeigt, dass ein Modell einfach größer zu machen nicht der einzige Weg zu besserer Leistung ist; ein Modell "länger nachdenken" zu lassen im Moment der Anfrage kann manchmal die Gewinne erreichen oder übertreffen, die das Training eines noch größeren Modells von Grund auf bringen würde.

▶ Quration Play

tech

Was macht Retrieval-Augmented Generation (RAG)?Was ist ein zentraler Vorteil dieser 'On-Device'-KI?Wie erreicht ein 'Mixture of Experts'-Modell das?Wie nennt man dieses von KI erzeugte Trainingsmaterial?Wie heißt der zweite Ansatz, das Training mit Beispielen?Wie funktioniert dieses Text-'Wasserzeichen' im Allgemeinen?Wie heißt diese Trainingstechnik?Wie heißt diese Komprimierungstechnik?Wie nennt man KI-Modelle, die mehrere Eingabearten zugleich verarbeiten?Welches Unternehmen betreibt diesen vollständig fahrerlosen kommerziellen Robotaxi-Dienst?Welche Stufennummer ist auf der bekannten SAE-Skala die höchste und steht für volle Automatisierung?Wie heißt der humanoide Roboter, den der Autohersteller Tesla vorgestellt hat?

Quration — Quration Play