Bir yapay zeka kodlama aracının önerdiği bir terminal komutunu çalıştırmadan önce, hangi kategori en dikkatli insan okumasını hak eder?

Dosyaları silen, veriyi zorla üzerine yazan ya da ayrıcalıkları yükselten komutlar — rm, sudo ya da yükseltilmiş sistem erişimi veren her şey — çalıştırılmadan önce en dikkatli insan incelemesini hak eder; çünkü yapay zekanın önerisi bu kategorilerden birinde yanlışsa hasar anında ve geri döndürülemez olabilir, oysa yanlış bir salt-okunur komut sadece beklenmedik bir çıktı döndürür.

ls ya da pwd gibi salt-okunur komutlar hiçbir şeyi değiştirmeden yalnızca bilgi görüntüler, dolayısıyla oradaki yanlış bir tahminin geri alınacak bir maliyeti yoktur; dostane bir selam basan echo ise yapay zekanın önerdiği şeyden bağımsız olarak neredeyse sıfır risk taşır.

Faydalı bir zihinsel model, bir yapay zeka kodlama asistanını yetenekli ama yeni bir stajyer gibi ele almaktır: etrafına serbestçe bakmasına izin vermek sorun değil ama yazma, silme ya da izin değiştirme önerdiği her şey çalıştırılmadan önce ikinci bir insan gözü hak eder.