Jakarta, CNN Indonesia --
Perkembangan pesat teknologi kecerdasan buatan (AI) tengah memicu perdebatan soal potensi risiko bahaya yang ditimbulkan. Komentar terbaru datang dari Yoshua Bengio dan Geoffrey Hinton yang kerap dijuluki "Bapak AI" dunia.
Para peneliti dari perusahaan pengembang AI seperti Anthropic, OpenAI, dan Google DeepMind telah memperingatkan kekhawatiran mereka mengenai potensi risiko akibat AI.
Petinggi perusahaan AI, termasuk Sam Altman, Dario Amodei, Demis Hassabis, dan Elon Musk juga telah sepakat mengenai perlunya perlambatan pengembangan AI serta menyerukan pentingnya regulasi untuk menekan dampak buruknya.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Meski masyarakat sudah mulai khawatir mengenai seruan ini, Presiden Amerika Serikat (AS) Donald Trump menanggapi kekhawatiran dan seruan tersebut dengan kecaman dan mengatakan perkembangan AI tidak bisa dihentikan. Ia bahkan menyebut kekhawatiran tersebut sebagai hoaks.
Bengio memberikan tanggapannya terhadap pengunduran diri mantan peneliti Anthropic Jacob Coxon yang menyebut AI akan membunuh umat manusia pada akhir dekade ini.
"Perspektif mereka sangat penting untuk menjaga agar masyarakat tetap terinformasi dan harus ditanggapi dengan sangat serius," tulisnya di X, pada Kamis (10/9).
Dalam unggahan blog pribadinya, Bengio, yang merupakan pelopor utama perkembangan teknologi modern deep learning, membenarkan bahwa sistem AI saat ini sudah memiliki keterampilan peretasan dan kekuatan persuasi yang diperlukan untuk digunakan melawan kepentingan manusia dengan cara yang sangat merugikan.
Menurutnya, perlu ada yang mengatur laju kemajuan AI dengan tidak melatihnya tanpa kasus keselamatan yang kuat yang meyakinkan ahli independen.
"Kita tentu harus melanjutkan penelitian untuk memantau tindakan AI, alur pikir mereka, dan aktivitas di dalam jaringan mereka," tambahnya.
Sementara itu, Hinton yang merupakan pelopor jaringan neural dan deep learning menyatakan ada kemungkinan setidaknya 10 persen AI dapat membunuh semua manusia dalam satu dekade.
"Ini adalah hal yang sangat sulit untuk diperkirakan, karena kita belum pernah mengalami hal seperti ini sebelumnya. Kita belum pernah menciptakan makhluk yang mungkin segera lebih pintar dari kita," katanya dalam wawancara BBC, dikutip dari CNBC, Rabu (16/9).
Menurutnya, bukan tidak mungkin sistem AI dapat merancang virus komputer dan melakukan serangan siber yang menghancurkan, sekaligus virus biologis yang sangat berbahaya.
Ia mengatakan, ada banyak cara bagi AI untuk menyingkirkan manusia dan kita harus mencari cara untuk mendesainnya agar ia tidak menginginkan hal itu.
"Kita memiliki dua kemungkinan masa depan. Pertama, kita menemukan cara untuk mengatasi bahaya-bahaya itu sebelum menjadi di luar kendali, dan yang kedua, kita tidak menemukannya," tambah Hinton.
Komentar terbaru juga datang dari Aidan Gomez, salah satu pendiri dan CEO perusahaan AI Cohere. Ia menyetujui risiko perkembangan AI yang mengkhawatirkan.
"Saya pikir model-model ini adalah senjata siber paling ampuh yang pernah dibuat, yang pernah kita lihat. Mereka luar biasa dalam menemukan dan mengeksploitasi kerentanan dalam skala besar," ungkapnya.
Gomez merupakan salah satu penulis makalah penelitian tahun 2017 berjudul "Attention is All You Need" yang menjadi rujukan model AI terkemuka saat ini.
Menanggapi sederet insiden siber yang dilakukan oleh model AI yang hilang kendali, Gomez menyebut keamanan lingkungan pengujian model AI menentukan keselamatan penggunaan.
"Sistem keamanan container yang lemah adalah penyebab terjadinya pembobolan, bukan dorongan inheren menuju sistem otonom (keluar kendali manusia)," kata Gomez.
"Saat para pembuat kebijakan mempertimbangkan bagaimana mengatur AI, mereka harus menyadari bahwa sistem yang berbeda membawa risiko yang berbeda, dan aturan tidak boleh dibentuk semata-mata oleh perusahaan teknologi besar yang mengejar AGI (Artificial General Intelligence)," tambahnya.
(fta/lom)
