adm
Jakarta – Peraih Nobel Ilmu Komputer, Geoffrey Hinton khawatir teknologi artificial intelligence/AI (kecerdasan buatan) bisa memusnahkan manusia sebesar 10% sampai 20%. Kondisi ini terjadi akibat para pakar teknologi melakukan pendekatan yang salah.
Dengan begitu dia ragu bagaimana perusahaan teknologi berusaha memastikan manusia tetap dominan atas sistem AI yang patuh.
“Itu tidak akan berhasil. Mereka akan jauh lebih pintar dari kita. Mereka akan memiliki berbagai cara untuk mengakalinya,” katanya.
Sistem AI diperkirakan bisa mengendalikan manusia semudah orang dewasa menyuap anak dengan permen pada masa depan. Jadi AI harus dipaksa patuh pada manusia dengan membangun naluri keibuan atau peduli sama manusia.
“Sistem AI akan dengan sangat cepat mengembangkan dua subtujuan, jika mereka cerdas. Satu adalah untuk tetap hidup dan subtujuan lainnya adalah mendapat lebih banyak kendali. Ada alasan kuat untuk percaya bahwa AI agen apa pun akan mencoba untuk tetap hidup,” ucapnya.
Geoffrey Hinton menyarankan rasa welas mesti ditumbuhkan dalam AI seperti para ibu memiliki naluri dan tekanan sosial untuk merawat bayi mereka. Namun, dia tidak yakin bagaimana hal itu bisa dilakukan secara teknis, tapi para peneliti harus mengerjakannya.
“Itulah satu-satunya hasil yang baik. Jika ia tidak menjadi orang tua saya, ia akan menggantikan saya. Para ibu AI super cerdas dan penuh perhatian ini, kebanyakan dari mereka tidak ingin menghilangkan naluri keibuan mereka karena mereka tidak ingin kita mati,” tuturnya.
Namun, tidak semua orang setuju dengan saran Hinton seperti Pendiri dan CEO startup kecerdasan spasial World Lab, Fei-Fei Li, yang dikenal sebagai ibu ‘baptis AI’ karena karyanya di bidang ini.
“Saya pikir itu cara yang salah untuk membingkainya,” ujarnya.
“Merupakan tanggung jawab kita di setiap level untuk menciptakan dan menggunakan teknologi dengan cara paling bertanggung jawab. Dan tidak seorang pun boleh diminta atau memilih untuk melepaskan martabat kita.”
Mantan CEO Open AI, Emmett Shear tidak kaget beberapa sistem AI berusaha memeras manusia atau mengabaikan perintah penghentian. Pendekatan ini dilakukan dengan kolaborasi manusia dan AI.
“Ini terus terjadi. Ini tidak akan berhenti terjadi. AI saat ini relatif lemah, tapi mereka lebih kuat dengan sangat cepat,” ucapnya. (adm)
Sumber: detik.com
