Quration AIQ

prompt

Ein versteckter Kostensparer bei KI-Diensten: die Berechnung für wiederkehrende Prompt-Präfixe (Systemanweisungen, Dokumente) wiederverwenden, statt sie jedes Mal neu zu berechnen.

Wie heißt das?

Prompt Caching
Prompt Caching speichert und nutzt die Berechnung für wiederholte Eingaben wieder, was Kosten und Latenz drastisch senkt – besonders wichtig für Agenten, die denselben Kontext Dutzende Male neu lesen.
▶ Quration AIQ

prompt

Anweisungen so zu gestalten, dass man das Gewünschte bekommt, wurde zur eigenen Fähigkeit — kurzzeitig als „Sechs-Zahlen-Job“ gehypt. Wie heißt sie?Wie heißt diese Technik, Beispiele in den Prompt einzubauen?Wie heißt diese Technik, das Modell zunächst seine Überlegungen ausschreiben zu lassen?Wie lautet das Kürzel für diese „retrieval-augmented generation“?Wie heißt das?Wie heißt sie?Wie heißt diese numerische Darstellung?Wie heißt diese aufkommende Fähigkeit, die auswählt, welche Dokumente, Tools und Verläufe einbezogen werden?Wie heißt diese Funktion, die Nutzerinformationen über Sitzungen hinweg speichert, gebräuchlich?Was machte diesen Sprung möglich?Man fügt Anweisungen und Referenzdokumente ein, und heraus kommt ein „Firmenrichtlinien-Bot“ oder ein „Englischlehrer“. Wie nennt ChatGPT diese individuellen Chatbots?Wie heißt diese Technik, der KI eine Rolle zuzuweisen, um ihre Perspektive und Tiefe zu formen?

Quration — Quration AIQ