Apakah nama teknik pemampatan ini?

Pengkuantuman (quantization) mengurangkan ketepatan yang digunakan untuk menyimpan setiap satu daripada berbilion nombor, dipanggil parameter, yang membentuk pengetahuan sesebuah model AI, contohnya menukar nombor yang disimpan dengan ketepatan 16 bit kepada hanya 4 atau 8 bit. Oleh kerana setiap nombor kemudian mengambil ingatan dan pengiraan yang lebih sedikit, model itu menjadi lebih kecil dan lebih pantas untuk dijalankan, selalunya menjadikan mungkin untuk memuatkan model yang berkeupayaan pada perkakasan biasa seperti komputer riba atau telefon berbanding pelayan khusus.

Penampanan (buffering) bermaksud menyimpan data secara sementara, selalunya audio atau video, untuk main balik yang lancar, satu konsep yang berbeza daripada mengurangkan ketepatan berangka sesebuah model. Pengindeksan pula bermaksud menyusun data, seperti dalam pangkalan data, supaya ia boleh ditemui dengan pantas, tiada kaitan dengan mengecilkan storan nombor sesebuah model.

Apabila dilakukan dengan teliti, pengkuantuman boleh mengecilkan saiz model secara dramatik sambil hampir tidak menjejaskan ketepatannya, sebab itulah ia telah menjadi teknik utama yang membolehkan AI yang mengagumkan berjalan pada peranti pengguna harian berbanding hanya di pusat data yang besar.