tech
Nowa fala modeli AI zatrzymuje się, by 'pomyśleć' krok po kroku przed odpowiedzią, zużywając dodatkową moc obliczeniową w chwili pytania, a nie tylko podczas treningu.
Modele rozumujące zatrzymują się, by przepracować problem w pośrednich krokach, zanim wygenerują ostateczną odpowiedź, zamiast tworzyć ją w jednym natychmiastowym przebiegu, tak jak zwykle robiły to wcześniejsze chatboty. Poświęcając dodatkowy wysiłek obliczeniowy w chwili zadawania pytania i generując wewnętrzny szkic rozumowania, modele te potrafią wychwytywać błędy, badać różne podejścia i radzić sobie z wieloetapowymi problemami, wyraźnie poprawiając wyniki w trudnych zadaniach matematycznych, łamigłówkach logicznych i złożonych zadaniach programistycznych.
Modele te nadal wymagają połączenia z internetem, gdy są uruchamiane przez usługę chmurową, więc ta opcja błędnie rozumie sposób ich wdrażania. Nie zużywają też mniej pamięci niż starsze modele; dodatkowy etap rozumowania krok po kroku zwykle wymaga więcej zasobów obliczeniowych na odpowiedź, ponieważ generowanie tego ukrytego rozumowania zajmuje dodatkowy czas przetwarzania i energię.
To pokazuje, że samo zwiększanie rozmiaru modelu nie jest jedyną drogą do lepszych wyników; pozwolenie modelowi na "dłuższe myślenie" w chwili zadawania pytania czasem może dorównać lub przewyższyć korzyści z trenowania jeszcze większego modelu od podstaw.
tech
Co robi Generacja Wspomagana Wyszukiwaniem (RAG)?Na czym polega kluczowa zaleta tej AI 'na urządzeniu'?Jak osiąga to model typu 'mieszanka ekspertów'?Jak nazywa się ten materiał treningowy wygenerowany przez AI?Jak nazywa się to drugie podejście, czyli trenowanie na przykładach?Jak ogólnie działa taki 'znak wodny' tekstu?Jak nazywa się ta technika trenowania?Jak nazywa się ta technika kompresji?Jak nazywa się modele SI obsługujące kilka typów danych wejściowych naraz?Która firma prowadzi tę w pełni bezzałogową komercyjną usługę robotaksówek?Jaki jest najwyższy numer poziomu w znanej skali SAE, oznaczający pełną automatyzację?Jak nazywa się humanoidalny robot zaprezentowany przez producenta samochodów Tesla?Quration — Quration Play