Direktur eksekutif Center for AI Safety Dan Hendrycks mengatakan pernyataan terbaru yang dilontarkan secara singkat ini dimaksudkan untuk menghindari ketidaksepakatan tersebut.
"Kami tidak ingin mendorong menu yang sangat besar dengan 30 intervensi potensial. Ketika hal itu terjadi, maka akan melemahkan pesan yang ingin disampaikan," kata Hendrycks.
Hendrycks menggambarkan pesan tersebut sebagai "coming-out" bagi para tokoh di industri yang khawatir akan risiko AI.
"Ada kesalahpahaman yang sangat umum, bahkan di komunitas AI, bahwa hanya ada segelintir orang yang khawatir pada hal tersebut. Namun, pada kenyataannya, banyak orang yang secara pribadi mengungkapkan kekhawatirannya tentang hal-hal ini," ujar Hendrycks.
Kontroversi soal AI sendiri sudah tidak asing, tetapi pembicaraan soal detailnya sering kali tak berkesudahan. Namun intinya, ada hipotetis di mana sistem AI dengan cepat meningkatkan kemampuannya, dan tidak lagi berfungsi dengan aman.
Banyak ahli merujuk pada peningkatan yang cepat dalam sistem seperti model bahasa yang besar sebagai bukti proyeksi peningkatan kecerdasan di masa depan.
Mereka mengatakan setelah sistem AI mencapai tingkat kecanggihan tertentu, mungkin akan menjadi tidak mungkin untuk mengendalikan tindakan mereka.
Namun, beberapa pihak meragukan prediksi ini. Mereka menunjukkan ketidakmampuan sistem AI untuk menangani tugas-tugas yang relatif biasa seperti, misalnya, mengemudikan mobil.
Meski sudah bertahun-tahun dan miliaran investasi di bidang penelitian ini, mobil yang sepenuhnya bisa menyetir sendiri masih jauh dari kenyataan.
Menurut mereka, jika AI tidak dapat menangani tantangan yang satu ini, maka peluang yang dimiliki teknologi ini untuk menyamai setiap pencapaian manusia di tahun-tahun mendatang cukup kecil.
