AI Perlu Dikendalikan, Tokoh Teknologi Serukan Perlambatan

Kendari, ıNarasikita - Sejumlah pemimpin teknologi global kembali menyerukan perlambatan dalam percepatan pengembangan kecerdasan buatan, menyusul kekhawatiran mendalam terhadap potensi ancaman yang mungkin muncul jika sistem AI tidak diatur dengan cermat. Dalam pernyataan yang tersebar luas, CEO OpenAI Sam Altman dan pendiri SpaceX Elon Musk menegaskan bahwa laju inovasi saat ini terlalu cepat dan berisiko, terutama jika tidak diiringi mekanisme pengawasan yang memadai. Kedua tokoh menyetujui peringatan dari CEO Anthropic Dario Amodei, yang menyatakan bahwa tanpa intervensi, AI berpotensi menguasai jaringan internet secara menyeluruh dalam waktu kurang dari satu tahun.

Altman menekankan bahwa OpenAI telah memasukkan isu ini sebagai prioritas utama dalam diskusi internal dalam beberapa pekan terakhir. Ia menyatakan komitmen untuk mengadopsi model pengawasan yang melibatkan penilai independen dengan akses setara karyawan, sebagai langkah antisipasi terhadap potensi penyalahgunaan. Dalam esai tahun 2015 yang ditulis sebelum booming AI, Altman telah memperingatkan bahwa kemampuan mesin yang melampaui manusia berpotensi menjadi ancaman terbesar bagi eksistensi umat manusia. Pernyataannya kini semakin relevan di tengah kian kompleksnya sistem AI yang mulai mengintervensi berbagai aspek kehidupan.

Musk, yang telah lama menjadi suara kritis terhadap perkembangan AI, menegaskan kembali bahwa peringatannya selama bertahun-tahun bukan sekadar spekulasi, melainkan respons terhadap realitas teknis yang muncul. Ia menilai bahwa ketidakmampuan mengendalikan sistem AI yang semakin canggih dapat berujung pada kegagalan kontrol global. Pendapat serupa juga disampaikan oleh Demis Hassabis, pemimpin Google DeepMind, yang menilai bahwa meski detail teknis perlu dipelajari lebih lanjut, arah kebijakan yang diusulkan oleh Amodei sudah tepat untuk mengantisipasi risiko sistemik.

Seruan ini muncul di tengah persiapan Anthropic untuk go public di pasar saham AS, dengan proyeksi valuasi lebih dari dua triliun dolar AS—menjadi IPO terbesar dalam sejarah. Di balik ambisi bisnis tersebut, muncul kekhawatiran bahwa tekanan ekonomi dapat mengorbankan aspek keselamatan dan etika. Amodei dalam wawancara dengan CNN menegaskan bahwa jika tidak segera ditangani, teknologi ini akan disalahgunakan oleh pihak tidak bertanggung jawab untuk serangan siber, bioterorisme, atau gangguan ekonomi besar. Ia meminta kolaborasi lintas industri untuk mencegah bencana yang bisa terjadi akibat kelalaian.

Kekhawatiran itu diperkuat oleh pengunduran diri seorang peneliti senior Anthropic, Jacob Coxon, yang mengungkapkan bahwa banyak eksekutif dan peneliti senior menyimpan ketakutan pribadi terhadap risiko AI, meski secara publik mereka berusaha terdengar rasional. Dalam komentar di platform X, Coxon menyebut bahwa tidak ada aktivitas manusia lain yang menimbulkan tingkat bahaya setara dengan pengembangan AI tanpa batas. Seruan untuk menghentikan laju ekspansif sementara, menurutnya, adalah langkah yang tak bisa ditunda lebih lama.