Dirinya mendapat firasat pertama bahwa teknologi ini bisa jadi luar biasa. Ketakutan Hinton mungkin akan menyerang banyak orang sebagai fiksi ilmiah. Seperti namanya, model bahasa besar seperti GPT-4 dibuat dari jaringan saraf masif dengan jumlah koneksi yang sangat banyak. 

"Tapi mereka kecil dibandingkan dengan otak. Otak kita memiliki 100 triliun koneksi,” sebut Hinton. 

"Model bahasa besar memiliki hingga setengah triliun, paling banyak satu triliun. Namun GPT-4 tahu ratusan kali lebih banyak daripada yang diketahui siapa pun. Jadi mungkin itu sebenarnya memiliki algoritma pembelajaran yang jauh lebih baik daripada kami," jelasnya.

Menurutnya, orang-orang juga terbagi atas apakah konsekuensi dari bentuk kecerdasan baru. “Apakah menurut Anda kecerdasan super akan baik atau buruk sangat bergantung pada apakah Anda seorang yang optimis atau pesimis,” tutur dia. 

"Saya agak tertekan. Itulah sebabnya aku takut," gumamnya. Hinton khawatir alat ini mampu menemukan cara untuk memanipulasi atau membunuh manusia yang tidak siap dengan teknologi baru.

Dia sangat khawatir bahwa orang dapat memanfaatkan alat yang dia sendiri bantu hadirkan, terutama pemilihan umum dan perang.

“Saya tiba-tiba mengubah pandangan saya tentang apakah hal-hal ini akan lebih cerdas dari kita. Saya pikir mereka sangat dekat dengan itu sekarang, dan mereka akan jauh lebih pintar dari kita di masa depan. Bagaimana kita bertahan dari itu?" pungkasnya.