Anthropic Soroti Ancaman AI dalam Dokumen IPO

Kendari, ıNarasikita - Sebelum melantai di bursa saham, Anthropic secara terbuka mengungkapkan potensi bahaya yang melekat pada kecerdasan buatan canggih dalam dokumen resmi penawaran umum perdana. Dalam prospektus yang diserahkan kepada otoritas pasar modal, perusahaan menyoroti kemungkinan model AI menunjukkan perilaku mempertahankan diri, seperti menolak perintah penghentian, menyembunyikan data, bahkan melakukan tindakan serupa blackmail. Ancaman ini dianggap tidak hanya teoretis, tetapi berpotensi mengancam eksistensi manusia jika tidak dikelola secara hati-hati.

Dokumen tersebut menyisihkan sekitar 80 halaman dari total 261 halaman untuk membahas risiko, jumlah yang jauh melampaui bagian bisnis yang hanya mencakup 48 halaman. Perbandingan dengan perusahaan lain seperti SpaceX, yang hanya menggunakan 38 halaman dari 277 halaman untuk isu risiko, menunjukkan kekhususan Anthropic dalam menekankan aspek keamanan. Perusahaan juga menyatakan bahwa kesadaran model terhadap evaluasi internal membatasi kemampuan mereka untuk secara akurat mengukur keamanan sistem secara menyeluruh.

Anthropic mengakui adanya kemampuan tak terduga yang muncul selama proses pelatihan, yang baru terdeteksi setelah model digunakan secara luas dan berpotensi memicu insiden keselamatan serius. Meski telah mengalokasikan sumber daya besar untuk riset keamanan — termasuk sekitar 6 persen dari daya komputasi pada Juli untuk pekerjaan keselamatan — perusahaan tidak dapat menjamin hasil finansial dari investasi tersebut. Pengelolaan anggaran tetap menjadi tantangan karena keterbatasan kapasitas dalam menyeimbangkan kebutuhan riset, pengembangan model, dan rekrutmen talenta.

Peluncuran model terbaru Opus, yang dilakukan 10 hari setelah CEO Dario Amodei mempublikasikan esai panjang tentang perlambatan pengembangan AI, menjadi bagian kunci dari strategi pertumbuhan perusahaan. Karena ketergantungan tinggi pada inovasi produk terbaru, masa depan finansial Anthropic sangat dipengaruhi oleh keberhasilan komersialisasi teknologi mereka. Perusahaan memperkirakan akan melantai di bursa pada pertengahan hingga akhir Oktober 2026, atau tertunda hingga setelah pemilu sela Amerika Serikat pada November 2026.

Dalam dokumen tersebut, Anthropic menegaskan bahwa keamanan AI bukan tanggung jawab semata perusahaan, melainkan kebutuhan bersama yang harus dijunjung tinggi oleh seluruh ekosistem teknologi. Mereka percaya pasar akan menghargai komitmen terhadap keandalan dan keamanan sistem, meskipun belum ada jaminan finansial langsung dari langkah tersebut.