Ketika diminta oleh BBC untuk mengelaborasi komentar ini, ia menjawab: "Ini hanya skenario terburuk, semacam skenario mimpi buruk.

"Anda dapat membayangkan, misalnya, seorang aktor jahat seperti [Presiden Rusia Vladimir] Putin memutuskan untuk memberi robot kemampuan untuk menciptakan subtujuan mereka sendiri."

Sang ilmuwan memperingatkan bahwa ini akhirnya dapat "menciptakan subtujuan seperti 'Saya perlu mendapatkan lebih banyak kekuatan'".

Ia menambahkan: "Saya menyimpulkan bahwa jenis kecerdasan yang kita kembangkan sangat berbeda dengan kecerdasan yang kita punya.

"Kita adalah sistem biologis dan ini adalah sistem digital. Dan perbedaan besarnya ialah dengan sistem digital, Anda bisa punya banyak salinan dari satu berat yang sama, model yang sama, tentang dunia.

"Dan semua salinan ini dapat belajar secara terpisah namun saling berbagi pengetahuan dengan instan. 

Jadi seolah-olah Anda punya 10.000 orang dan kapanpun satu orang mempelajari sesuatu, semua orang otomatis mengetahuinya. Dan karena itulah chatbot-chatbot ini bisa tahu jauh lebih banyak dari orang mana pun."

Matt Clifford, ketua Badan Riset dan Penemuan Tingkat Lanjut Inggris, berbicara dalam kapasitas pribadi, berkata kepada BBC bahwa pengumuman Dr. Hinton "menekankan betapa cepatnya perkembangan kapabilitas AI".

"Ada banyak manfaat dari teknologi ini, tetapi amat penting dunia banyak berinvestasi, dan segera, dalam keamanan dan kontrol AI," ujarnya.

Dr. Hinton bergabung dengan semakin banyak pakar yang mengungkapkan kekhawatiran tentang AI — baik tentang kecepatan maupun arah perkembangannya. (*)