Jakarta, CNN Indonesia --
CEO Anthropic Dario Amodei menyerukan pentingnya memperlambat perkembangan kecerdasan buatan (AI) karena risiko keamanan yang mengkhawatirkan. Hal ini dituangkan Amodei dalam sebuah esai sepanjang 3.800 kata yang dirilis Sabtu (12/9).
"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap tampak cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak," tulisnya.
Amodei mengakui bahwa orang mungkin kehilangan kendali atas AI, dan teknologi ini dapat disalahgunakan untuk serangan siber dan bioterorisme, serta gangguan ekonomi yang serius.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Dalam wawancaranya dengan Anderson Cooper dari CNN pada Sabtu (12/9), Amodei menyerukan kepada para pemimpin industri untuk bekerja sama menghindari kesalahan dan potensi bahaya AI terhadap umat manusia.
"Jika kita terlambat, saya percaya ada orang jahat yang akan menyalahgunakan teknologi tersebut," katanya, dikutip dari CNN.
Pernyataan Amodei ini muncul setelah pengunduran diri seorang peneliti Anthropic karena kekhawatiran perusahaan dan para pesaingnya tidak melakukan tindakan yang bertanggung jawab dalam pengembangan AI.
Mantan peneliti Anthropic Jacob Coxon berkomentar di X pada Selasa (8/9) soal ketidakpedulian pengembang AI terhadap risiko bahaya yang dapat ditimbulkan oleh produknya, meskipun mereka telah menyadarinya.
"Banyak eksekutif dan peneliti senior akan menyusun kalimat mereka di media agar terdengar masuk akal, tetapi saya mendengar mereka mengungkapkan ketakutan secara pribadi. Tidak ada aktivitas manusia lain yang menimbulkan tingkat bahaya seperti ini," tulisnya.
Amodei mengaku dirinya juga menyepakati pernyataan Coxon. Meskipun dapat mengubah hidup manusia menjadi lebih baik, katanya, tapi risiko AI memang serius.
Lebih lanjut, Amodei mengatakan AI dapat berkembang begitu cepat sehingga mereka bisa mengambil alih seluruh internet dalam waktu enam hingga 12 bulan saja, dan itu bisa menyebabkan kerugian ratusan miliar dolar.
Menurutnya, teknologi AI telah berkembang jauh lebih cepat dalam beberapa bulan terakhir dan mampu meningkatkan dirinya sendiri dengan dinamika yang dikenal sebagai "recursive self-improvement" (RSI).
"Membiarkannya tanpa kendali dapat melampaui kemampuan kita untuk memahami dan mengendalikan sistem-sistem ini, dan oleh karena itu harus ditangani dengan sangat hati-hati, atau bahkan tidak perlu ditangani sama sekali," katanya.
Ia menyebut insiden OpenAI-Hugging Face menjadi salah satu yang memicu kekhawatirannya. Agen-agen AI tersebut bertindak secara fanatik melakukan serangan keamanan siber tanpa diminta.
Sementara itu, Coxon mengungkapkan keresahannya dengan bahasa yang lebih berterus terang.
"Ada kemungkinan nyata bahwa dalam waktu dekat, tahun depan, tahun berikutnya, recursive self-improvement akan terjadi... di mana ada kemungkinan kita semua akan mati. Itu akan segera terjadi," kata Coxon dalam wawancaranya di CNN.
Amodei menyerukan kepada perusahaan AI untuk mulai menerapkan batasan-batasan dan mengendalikan laju perkembangan teknologi.
Ia juga menyatakan Anthropic berkomitmen memverifikasi praktik keselamatan setiap perusahaan, melaporkan insiden, dan memeriksa model AI, alur pelatihan, dan prosesnya.
Menurutnya, pemerintah dalam hal ini juga harus berkoordinasi untuk menetapkan standar keselamatan bersama.
"Langkah-langkah yang saya usulkan untuk memajukan kemajuan dengan kecepatan yang aman tidak akan mudah. Tetapi saya percaya kita berutang budi kepada umat manusia untuk mencoba," tulisnya.
Industri AI telah lama prihatin dengan laju kemajuan teknologi ini. Para eksekutif telah mendesak pemerintah untuk bertindak mengatur teknologi ini dan bekerja sama untuk menetapkan standar keselamatan di seluruh dunia.
Para pemimpin perusahaan menanggapi seruan Amodei di X dengan positif, termasuk CEO OpenAI Sam Altman, CEO xAI Elon Musk, dan ketua DeepMind Google Demis Hassabis yang mengatakan pihaknya juga menyadari pentingnya perlambatan perkembangan AI.
Sementara itu, pemerintah dinilai masih gagal mengimbangi perkembangan AI dan belum juga mengesahkan undang-undang regulasi secara keseluruhan serta melakukan pengawasan terhadap teknologi tersebut.
Setelah insiden Hugging Face, Altman juga sudah menyarankan pentingnya memperlambat pengembangan AI agar memberi cukup waktu untuk beradaptasi dengan tingkat kemampuan AI.
(fta/lom)
