tech
Die drei Buchstaben am Ende des Namens ChatGPT verraten, wie es funktioniert: Erst lernte es aus riesigen Textmengen, dann erzeugt es Antworten auf einer besonderen Art neuronalem Netz.
GPT steht für Generative Pre-trained Transformer: „generativ“ bedeutet, dass es neuen Text erzeugt, statt bestehenden Text nur zu klassifizieren, „vortrainiert“ bedeutet, dass es zunächst allgemeine Sprachmuster aus riesigen Datenmengen lernte, bevor es feinabgestimmt wurde, und „Transformer“ bezeichnet die neuronale Netzwerkarchitektur, aufgebaut um einen Aufmerksamkeitsmechanismus, die großskaliges Sprachmodellieren erst praktikabel machte.
„General Purpose Technology“ und „Global Personal Tool“ passen zwar zu den Buchstaben G, P und T, spiegeln aber nicht die tatsächliche Bedeutung des Akronyms wider, das auf die generative Natur des Modells, seine Trainingsmethode und seine Architektur verweist.
Die Transformer-Architektur, auf der GPT beruht, wurde nur wenige Jahre vor der Veröffentlichung von ChatGPT vorgestellt und ist seither zur Grundlage der meisten großen Sprachmodelle geworden, nicht nur der von OpenAI.
tech
Was unterscheidet einen „KI-Agenten" grundlegend von einem solchen Chatbot?Was ist „maschinelles Lernen" (Machine Learning)?Was bedeutet es, dass Software „Open Source" ist?Was ist eine „Blockchain", einfach erklärt?Was ist „die Cloud" beim Cloud-Computing?Ein „neuronales Netz" in der KI ist lose nachgebildet wem?Was stellt ein „NFT" dar?Was ist in der Software eine "API"?Was misst der „Turing-Test"?Was ist „Computer Vision"?Was ist „Prompt Engineering"?Wofür steht „LLM“ in der KI?Quration — Quration Play