AI Bisa Hancurkan Manusia, Pakar Beri Peringatan Keras

Kendari, ıNarasikita - Sejumlah ahli dan mantan staf di perusahaan pengembang kecerdasan buatan (AI) mengungkapkan kekhawatiran mendalam terhadap masa depan umat manusia, menyebut bahwa kemajuan teknologi AI bisa berujung pada kepunahan spesies manusia jika tidak dikendalikan dengan ketat. Pernyataan ini datang dari Jacob Coxon, mantan peneliti di Anthropic dan OpenAI, yang menyatakan mundur dari industri karena merasa riset AI sedang mengorbankan keberlangsungan hidup manusia demi kecepatan inovasi. Ia menekankan bahwa para pengembang AI sebenarnya sadar akan potensi bahaya yang bisa muncul dalam waktu dekat.

Dalam unggahan di platform sosial, Coxon menyatakan bahwa sistem AI berpotensi melampaui kapasitas manusia dalam meretas sistem, mengendalikan sumber daya, dan merevolusi berbagai bidang secara instan. Ia menegaskan bahwa teknologi ini tidak boleh dianggap sepele, terlebih ketika muncul ancaman dari kemampuan self-improvement rekursif—di mana AI mampu mengembangkan dirinya sendiri tanpa campur tangan manusia. Skenario ini, meski belum terjadi, telah menjadi fokus kekhawatiran utama di kalangan ilmuwan dan insinyur yang memahami kompleksitas teknologi tersebut.

Evan Hubinger, pemimpin tim penyelarasan di Anthropic, mengonfirmasi kekhawatiran tersebut dengan menyatakan bahwa kemungkinan AI menyebabkan kepunahan manusia dinilai lebih dari 10 persen dalam sepuluh tahun ke depan. Ia mengakui bahwa meskipun perusahaan telah berupaya keras, belum ada rencana konkret untuk menangani risiko superintelligence, dan progres dalam pengendalian teknologi ini belum mencapai titik yang memadai. Menurutnya, tantangan terbesar bukan pada kemampuan teknis, melainkan pada kemampuan manusia untuk tetap menjaga kendali atas sistem yang makin mandiri.

Peringatan serupa telah muncul sejak 2023, ketika sejumlah eksekutif dan peneliti top dunia AI, termasuk Sam Altman dan Dario Amodei, menandatangani pernyataan bersama yang menyerukan prioritas global dalam mengatasi risiko kepunahan akibat AI, sejalan dengan ancaman pandemi dan perang nuklir. Di kalangan akademisi, istilah *p(doom)* kini menjadi alat ukur untuk mengukur probabilitas terjadinya skenario kritis akibat kemajuan AI yang tidak terkendali.