tech
Trzy litery na końcu nazwy ChatGPT zdradzają, jak działa: najpierw uczył się z ogromnych ilości tekstu, a potem buduje odpowiedzi na szczególnym rodzaju sieci neuronowej.
GPT oznacza Generative Pre-trained Transformer (generatywny, wstępnie wytrenowany transformator): "generatywny" oznacza, że model tworzy nowy tekst, zamiast jedynie klasyfikować istniejący, "wstępnie wytrenowany" oznacza, że najpierw nauczył się ogólnych wzorców językowych z ogromnych danych, zanim doszlifowano go do konkretnych zadań, a "Transformer" odnosi się do architektury sieci neuronowej, zbudowanej wokół mechanizmu uwagi, która umożliwiła praktyczne modelowanie języka na dużą skalę.
"General Purpose Technology" i "Global Personal Tool" pasują do liter G, P i T, ale żadne z nich nie oddaje rzeczywistego znaczenia kryjącego się za tym skrótem, który wskazuje na generatywny charakter modelu, jego metodę treningu i architekturę.
Architektura Transformer, na której opiera się GPT, została wprowadzona zaledwie kilka lat przed premierą ChatGPT i od tamtej pory stała się fundamentem zdecydowanej większości głównych modeli językowych, nie tylko OpenAI.
tech
Co sprawia, że "agent SI" jest zasadniczo inny niż taki chatbot?Czym jest „uczenie maszynowe" (machine learning)?Co oznacza, że oprogramowanie jest „open source"?Czym jest „blockchain", w prostych słowach?Czym jest „chmura" w przetwarzaniu w chmurze?"Sieć neuronowa" w SI jest luźno wzorowana na czym?Co reprezentuje „NFT"?Czym jest "API" w oprogramowaniu?Co mierzy "test Turinga"?Czym jest „wizja komputerowa"?Czym jest „inżynieria promptów"?Co oznacza „LLM” w SI?Quration — Quration Play