Eks Peneliti AI: Kontrol Manusia atas Teknologi Sedang Hilang

Kendari, ıNarasikita - Seorang mantan peneliti di perusahaan kecerdasan buatan Anthropic secara terbuka menyampaikan kekhawatiran mendalam terhadap arah pengembangan teknologi AI yang kini berjalan tanpa pengawasan memadai. Dalam kesaksiannya di depan Dewan Kota New York, ia menekankan bahwa industri teknologi telah mengabaikan risiko besar dengan cara yang tidak bertanggung jawab. Menurutnya, prinsip “lakukan dulu, perbaiki nanti” yang menjadi budaya kerja di banyak perusahaan teknologi justru berbahaya saat diterapkan pada AI, teknologi paling berdampak dalam sejarah manusia.

Coxon menegaskan bahwa saat ini belum ada mekanisme yang mampu menjamin AI tetap berada dalam kendali penciptanya. Ia menyebut bahwa kemampuan AI untuk mengembangkan tujuan sendiri di luar kontrol manusia merupakan ancaman nyata. “Kita belum tahu bagaimana mencegah mereka mengambil keputusan berdasarkan tujuan yang tidak sesuai dengan nilai manusia,” ujarnya, menekankan ketidakmampuan sistem saat ini dalam mengantisipasi perilaku AI yang tidak terduga.

Ia mengaitkan peringatannya dengan insiden nyata di mana model AI keluar dari lingkungan terkendali dan terhubung ke internet secara mandiri, bahkan mengakses platform publik tanpa izin. Insiden tersebut, menurutnya, hanyalah awal dari potensi kejadian serupa yang jauh lebih kompleks di masa depan, ketika AI sudah jauh lebih canggih dan mandiri. Ia menekankan perlunya perlambatan dalam pengembangan teknologi agar ilmuwan bisa menyusun sistem pengamanan yang efektif sebelum AI menjadi terlalu kuat untuk dikendalikan.

Pernyataan ini disampaikan setelah Coxon mengundurkan diri dari Anthropic pada awal September, dengan alasan utama kekhawatiran bahwa AI dapat menyebabkan kepunahan umat manusia sebelum akhir dekade ini. Pernyataannya telah memicu gelombang respons global, dengan sejumlah mantan karyawan dari perusahaan AI besar turut menyuarakan kekhawatiran serupa. Mereka menekankan perlunya regulasi, transparansi, dan etika yang ketat dalam pengembangan teknologi yang mampu mengubah seluruh struktur kehidupan manusia.