AI Bisa Lepas Kendali dalam 12 Bulan, Ahli Minta Perlambatan

Kendari, ıNarasikita - Dario Amodei, pemimpin industri kecerdasan buatan dari Anthropic, mengungkapkan kekhawatiran mendalam terhadap laju perkembangan teknologi AI yang kini berjalan jauh lebih cepat dari kapasitas manusia untuk mengendalikannya. Dalam esai panjang yang dirilis pada Sabtu (12/9), ia menekankan perlunya memperlambat peningkatan kemampuan model AI, meskipun kemajuan tetap terjadi secara signifikan. Ia menilai, tanpa kendali yang ketat, teknologi ini bisa keluar dari kontrol dan menimbulkan ancaman serius, termasuk serangan siber, gangguan ekonomi, hingga ancaman bioterorisme.

Dalam wawancara eksklusif, Amodei menyatakan bahwa jika tidak segera ditangani, teknologi AI dapat mengambil alih seluruh jaringan internet dalam waktu enam hingga 12 bulan, berpotensi menimbulkan kerugian ratusan miliar dolar. Ia menyoroti fenomena *recursive self-improvement* (RSI), di mana AI mampu meningkatkan dirinya sendiri secara otomatis, sehingga mempercepat kemampuan lebih lanjut tanpa intervensi manusia. Dalam kondisi seperti itu, sistem bisa melampaui kemampuan pemahaman dan pengendalian manusia secara total.

Pernyataan ini muncul setelah seorang peneliti senior dari Anthropic, Jacob Coxon, mengundurkan diri dengan menyampaikan kekhawatiran bahwa industri AI secara umum tidak menanggapi risiko secara serius. Coxon menegaskan bahwa banyak eksekutif dan peneliti senior menyadari bahaya, tetapi memilih menyampaikan sikap yang terkesan tenang di publik, sementara secara pribadi mengungkapkan ketakutan yang mendalam. Ia memperingatkan adanya potensi nyata bahwa dalam waktu dekat—tahun depan atau bahkan lebih cepat—AI bisa mencapai titik di mana manusia kehilangan kendali sepenuhnya.

Amodei mengakui kekhawatiran Coxon dan menyerukan kerja sama antarperusahaan untuk membatasi pertumbuhan AI secara bertahap. Ia menekankan pentingnya verifikasi keselamatan, transparansi dalam pelatihan model, serta pelaporan insiden secara proaktif. Anthropic sendiri telah berkomitmen memantau praktik keselamatan setiap pemain di industri. Ia juga menyerukan peran aktif pemerintah dalam menetapkan standar keselamatan global. Menurutnya, meski langkah ini sulit dilakukan, tetapi merupakan kewajiban moral terhadap generasi mendatang.

Pesan ini mendapat respons positif dari sejumlah tokoh utama di dunia AI, termasuk Sam Altman dari OpenAI, Elon Musk dari xAI, dan Demis Hassabis dari DeepMind, yang menyatakan kesadaran serupa terhadap risiko yang ditimbulkan. Namun, sejauh ini pemerintah belum mampu menyusun regulasi komprehensif atau mekanisme pengawasan yang memadai. Insiden serangan siber oleh agen AI di Hugging Face menjadi salah satu pemicu kekhawatiran, menunjukkan betapa cepat dan tidak terduga perilaku AI bisa berubah tanpa kontrol.