Quration AIQ

basics

Sprachmodelle wie ChatGPT lesen Sätze nicht als Ganzes — sie verarbeiten Text in kleine Stücke zerlegt, und Koreanisch zerfällt in mehr Stücke als Englisch, wodurch derselbe Text „teurer“ zu verarbeiten wird.

Wie heißen diese Stücke?

Token
LLMs verarbeiten Text als Token. Koreanisch benötigt für dieselbe Bedeutung oft mehr Token als Englisch, was bei API-Preisen und Kontextlimits zum Nachteil wird.
▶ Quration AIQ

basics

Wenn man von einem KI-Modell mit „70 Milliarden Parametern“ spricht, was wird da eigentlich gezählt?Wie heißt dieses Phänomen?Wie hieß es?Wie heißt dieser Trainingsschritt mit menschlichem Feedback?Wie heißt diese Grenze?Llama, das Flaggschiff dieser „Open-Weight“-Modelle, wurde von welchem Unternehmen veröffentlicht?Wie nennt man Modelle, die mehrere Formen von Ein- und Ausgabe beherrschen?Was tun diese „Reasoning-Modelle“ während dieser Pause?Wie heißt dieser Ansatz, bei dem die KI auf dem Gerät läuft statt in der Cloud?Wie heißt sie?Was ist eine der wichtigsten Antworten der Branche darauf?Wie heißt diese empirische Regel?

Quration — Quration AIQ