Apa manfaat utama model 'penalaran' ini?

Model reasoning berhenti sejenak untuk mengurai masalah lewat langkah-langkah perantara sebelum menghasilkan jawaban akhir, alih-alih menghasilkan respons dalam satu proses langsung seperti yang biasa dilakukan chatbot sebelumnya. Dengan mengeluarkan usaha komputasi ekstra pada saat kamu mengajukan pertanyaan, menghasilkan semacam catatan penalaran internal, model-model ini bisa menangkap kesalahan, menjajaki beberapa pendekatan, dan menangani masalah bertahap, secara nyata meningkatkan performa pada soal matematika sulit, teka-teki logika, dan tugas pemrograman yang rumit.

Model-model ini tetap membutuhkan koneksi internet saat dijalankan lewat layanan cloud, jadi pilihan itu salah paham tentang bagaimana model ini digunakan. Model-model ini juga tidak menggunakan memori lebih sedikit dari model lama; penalaran bertahap ekstra ini justru cenderung menggunakan lebih banyak sumber daya komputasi per jawaban, karena menghasilkan penalaran tersembunyi itu membutuhkan waktu dan daya pemrosesan tambahan.

Ini menunjukkan bahwa sekadar membuat model lebih besar bukan satu-satunya jalan menuju performa yang lebih baik; membiarkan model "berpikir lebih lama" pada saat kamu bertanya kadang bisa menyamai atau bahkan mengalahkan keuntungan dari melatih model yang jauh lebih besar dari nol.