Ledakan Kecerdasan AI Dikhawatirkan, Para Ahli Minta Langkah Cepat

Kendari, ıNarasikita - Sejumlah pakar kecerdasan buatan global, termasuk tokoh-tokoh kunci dalam perkembangan AI modern, mengeluarkan peringatan serius tentang kemungkinan terjadinya "ledakan kecerdasan" dalam dekade mendatang. Riset terbaru yang dipublikasikan dalam jurnal Cambridge Programme on AI Science & Policy (CASP) menyoroti risiko munculnya kemajuan teknologi AI yang tak terkendali akibat kemampuan AI untuk mempercepat proses penelitian dan pengembangan secara otomatis. Dalam skenario tersebut, sistem AI mampu menggantikan peran jutaan peneliti manusia dalam waktu singkat, mempercepat inovasi hingga mencapai tingkat yang sebelumnya hanya bisa dibayangkan.

Para penulis laporan menekankan bahwa meski belum terjadi secara nyata, potensi munculnya kecerdasan superhuman telah mendekati ambang batas. Mereka menggambarkan bahwa jika AI mulai mengotomatisasi proses R&D secara rekursif, maka kemajuan teknologi bisa terjadi dalam hitungan bulan, bukan bertahun-tahun. Hal ini menimbulkan kekhawatiran serius terhadap kontrol manusia atas sistem, terutama dalam konteks keamanan nasional, stabilitas politik, dan distribusi kekuasaan antar negara serta korporasi.

Untuk mengantisipasi ancaman tersebut, tim peneliti mengusulkan tiga langkah kebijakan utama: pertama, mewajibkan transparansi dalam pelaporan kemajuan riset AI; kedua, membatasi kecepatan pengembangan sistem AI tingkat tinggi; dan ketiga, menyusun rencana respons darurat yang siap diaktifkan jika terjadi ledakan kecerdasan. Perusahaan seperti Anthropic dan OpenAI telah mulai menerapkan langkah-langkah awal dengan melibatkan auditor independen untuk menilai model AI mereka. Bahkan, kedua perusahaan melaporkan bahwa AI kini mampu menghasilkan hingga 80 persen kode program sendiri, serta menggunakan agen otomatis untuk pelatihan model baru.

Para peneliti menegaskan bahwa meskipun dampak negatif belum pasti terjadi, risikonya sangat nyata dan berpotensi merusak struktur sosial, ekonomi, dan keamanan global. Mereka juga menekankan bahwa teknologi ini bisa dimanfaatkan untuk mitigasi risiko, seperti mempercepat penemuan obat atau solusi krisis iklim, asalkan dikendalikan dengan baik. Oleh karena itu, mereka mendesak pemerintah dan lembaga global untuk segera merancang kerangka regulasi yang proaktif, termasuk penghentian sementara proyek besar di pusat data, isolasi sistem otomatis, dan kolaborasi lintas negara dalam pengawasan AI.