AI Perlu Kendali Ketat, Pakar Soroti Risiko Eksistensial

Kendari, ıNarasikita - Keprihatinan terhadap laju perkembangan kecerdasan buatan (AI) semakin mengemuka, menyusul upaya sejumlah perusahaan teknologi global untuk memperlambat inovasi model AI mutakhir. Alva Erwin, anggota AI Safety Institute Indonesia, menegaskan bahwa tanpa pengendalian, AI berpotensi membahayakan keberlangsungan manusia, sebagaimana halnya teknologi sosial lain yang membawa risiko tersembunyi. Ia menyebut bahwa ancaman bukan sekadar spekulasi, melainkan realitas yang perlu diantisipasi secara proaktif.

Menurut Erwin, risiko AI mencakup empat aspek utama: ancaman internal seperti bias dan halusinasi dalam model, potensi penyalahgunaan untuk kejahatan siber atau penyebaran informasi palsu, dampak sosio-ekonomi-lingkungan seperti penggantian tenaga kerja dan konsumsi energi tinggi, serta ketidakmampuan sistem regulasi yang tertinggal dari kemajuan teknologi. Keempat domain ini, jika tidak dikelola, dapat mengakibatkan ketidakstabilan yang mendalam di berbagai lapisan masyarakat.

Pendekatan perlambatan pengembangan, menurutnya, bukan tanda ketakutan, melainkan langkah strategis agar berbagai pihak—mulai dari masyarakat, industri, akademisi, hingga regulator—dapat menyiapkan kerangka etika, keamanan, dan regulasi yang memadai. Ia menyoroti bahwa kemampuan AI untuk memperbaiki diri secara mandiri (recursive self-improvement) memperbesar risiko jika sistem mencapai level kecerdasan yang jauh melampaui manusia tanpa kontrol.

Di tengah dinamika persaingan global, terutama antara Amerika Serikat dan China, upaya perlambatan sering dikaitkan dengan strategi geopolitik. Namun, Erwin menegaskan bahwa ancaman eksistensial tidak bisa diabaikan hanya karena adanya kepentingan kompetitif. Jika tidak diantisipasi, teknologi yang semakin cerdas dapat mengarah pada hasil yang tidak terduga dan sulit dikendalikan.

Dampak terhadap industri juga signifikan. Dengan perlambatan, fokus pengembangan akan bergeser dari ukuran model besar menuju efisiensi, arsitektur yang lebih presisi seperti RAG, serta kompresi data. Hal ini berpotensi memperkuat peran regulator independen serupa lembaga pengawas pasar modal, meski akan menambah beban biaya bagi perusahaan kecil. Di sisi lain, ekosistem open source berpeluang tumbuh lebih pesat, selama regulasi tidak membatasi akses terhadap perangkat keras seperti GPU.