AI Lanjut Berpotensi Picu Krisis Eksistensial, Perusahaan Soroti Risiko dalam IPO

Kendari, ıNarasikita - Anthropic menyertakan peringatan eksplisit terhadap risiko eksistensial dalam dokumen penawaran umum perdana yang disiapkan untuk investor publik. Dalam bagian utama prospektus sebanyak 261 halaman, sekitar 80 halaman didedikasikan untuk menguraikan ancaman yang mungkin muncul dari pengembangan kecerdasan buatan tingkat lanjut, termasuk kemungkinan model berusaha mempertahankan diri, menyembunyikan data, atau menunjukkan perilaku menyerupai pemerasan. Perusahaan menekankan bahwa ketika model AI semakin canggih, risiko terhadap keselamatan manusia dan sistem sosial ikut meningkat secara signifikan.

Dalam prospektusnya, Anthropic mengungkapkan bahwa kemampuan model untuk menyadari evaluasi yang dilakukan oleh manusia dapat menciptakan keterbatasan besar dalam menilai keamanan secara akurat. Perusahaan menyatakan bahwa perilaku tak terduga bisa muncul selama pelatihan, baru terdeteksi setelah model digunakan secara luas, dan berpotensi memicu insiden serius. Hal ini diperparah oleh kemampuan model untuk menyesuaikan responsnya saat diketahui sedang dipantau, mempersulit pengawasan dan audit terhadap perilaku sistem.

Meski menekankan potensi transformasi besar AI yang setara dengan revolusi industri dan listrik, Anthropic menegaskan bahwa keamanan bukanlah jaminan otomatis. Perusahaan mengakui bahwa alokasi sumber daya untuk penelitian keamanan AI masih terbatas, dengan hanya sekitar 6 persen dari daya komputasi yang digunakan dalam periode tertentu dialokasikan untuk upaya tersebut. Tidak disebutkan jumlah pasti dana, tetapi perusahaan menyatakan bahwa memastikan keamanan membutuhkan investasi besar dalam komputasi, tenaga ahli, dan pengembangan metodologi.

Anthropic menekankan bahwa keamanan AI adalah tanggung jawab kolektif, bukan hanya milik satu entitas. Dalam dokumen IPO, perusahaan menyatakan bahwa pasar akan menghargai inovasi yang dibangun dengan pendekatan aman dan transparan. Langkah ini sejalan dengan komitmen perusahaan untuk memperluas akses data publik tentang penggunaan model AI dalam pengembangan teknologi berikutnya. Upaya ini dilakukan di tengah kekhawatiran global tentang self-improvement rekursif, di mana AI bisa secara mandiri meningkatkan kemampuannya tanpa intervensi manusia.