basics

In einem langen Gespräch wirkt eine KI manchmal so, als hätte sie vergessen, was man am Anfang gesagt hat — Grund ist eine feste Obergrenze dafür, wie viel Text ein Modell gleichzeitig verarbeiten kann.

Wie heißt diese Grenze?

Q: Wie heißt diese Grenze?

Kontextfenster. Das Kontextfenster ist die Obergrenze an Token, die ein Modell gleichzeitig verarbeiten kann. Das frühe GPT-3 kam auf etwa 2.000, heutige Modelle erreichen Hunderttausende bis Millionen.

Speicherkarte
Kontextfenster ✓
Cache-Speicher

Kontextfenster
Das Kontextfenster ist die Obergrenze an Token, die ein Modell gleichzeitig verarbeiten kann. Das frühe GPT-3 kam auf etwa 2.000, heutige Modelle erreichen Hunderttausende bis Millionen.

▶ Quration AIQ

basics

Llama, das Flaggschiff dieser „Open-Weight“-Modelle, wurde von welchem Unternehmen veröffentlicht?Wie nennt man Modelle, die mehrere Formen von Ein- und Ausgabe beherrschen?Was tun diese „Reasoning-Modelle“ während dieser Pause?Wie heißt dieser Ansatz, bei dem die KI auf dem Gerät läuft statt in der Cloud?Wie heißt sie?Was ist eine der wichtigsten Antworten der Branche darauf?Wie heißt diese empirische Regel?Wie lautet das Kürzel für das Ziel jenseits aufgabenspezifischer KI — maschinelle Intelligenz, so allgemein wie die eines Menschen?Wie heißen diese?Wie heißt der Oberbegriff dafür?Wie heißen diese Stücke?Wenn man von einem KI-Modell mit „70 Milliarden Parametern“ spricht, was wird da eigentlich gezählt?

Quration — Quration AIQ