Quration Play

tech

Skłonność systemów AI, takich jak ChatGPT czy Claude, do pewnego przedstawiania nieistniejących artykułów, wydarzeń lub osób jako prawdziwych faktów nazywa się 'halucynacją'. Nawet przy większej ilości danych treningowych zjawisko to nigdy nie znika całkowicie.

Jaka jest jego strukturalna przyczyna?

Ponieważ modele są trenowane, by przewidywać statystycznie najbardziej prawdopodobne następne słowo, bez odrębnego mechanizmu sprawdzającego, czy stwierdzenie jest faktycznie prawdziwe ✓
Ponieważ łączna ilość danych treningowych jest wciąż niewystarczająca, przez co model wypełnia luki zmyśloną treścią
Ponieważ model nie ma połączenia z internetem w czasie rzeczywistym, więc brakuje mu dostępu do aktualnych informacji

Ponieważ modele są trenowane, by przewidywać statystycznie najbardziej prawdopodobne następne słowo, bez odrębnego mechanizmu sprawdzającego, czy stwierdzenie jest faktycznie prawdziwe
LLM to maszyna probabilistyczna generująca wiarygodnie brzmiący tekst — nie jest systemem, który odpytuje i weryfikuje bazę faktów.

▶ Quration Play

tech

Jak nazywa się ten chip Microsoftu?Jak nazywa się ten model?Co wynaleziono najpierw — faks czy telefon?Kogo powszechnie uważa się za pierwszego programistę komputerowego na świecie?Co oznacza „http" na początku adresu internetowego?Co tak naprawdę oznacza "Wi-Fi"?O czym była ta pierwsza strona internetowa?Ilu satelitów potrzebuje urządzenie GPS, by precyzyjnie ustalić twoje położenie?Jaka była pierwsza wiadomość wysłana przez raczkujący internet w 1969 roku?Dlaczego niechcianą pocztę nazywa się "spamem"?Pierwszy komputerowy "bug" był dosłownie czym?Czym jest „cookie" (ciasteczko) podczas przeglądania internetu?

Quration — Quration Play