Anthropic Soroti Risiko Eksistensial AI dalam Dokumen IPO

Kendari, ıNarasikita - Anthropic, pengembang model kecerdasan buatan Claude, secara terbuka menyampaikan potensi risiko eksistensial yang mungkin ditimbulkan oleh perkembangan teknologi AI dalam dokumen penawaran saham perdana (IPO) yang telah dilihat oleh media internasional. Perusahaan menekankan bahwa persepsi pemerintah terhadap aktivitas dan produknya dapat berdampak luas, tidak hanya terhadap operasional bisnis, tetapi juga terhadap hubungan dengan pelanggan, mitra strategis, hingga stabilitas ekosistem digital global. Dalam prospektus tersebut, disebutkan bahwa kebijakan pemerintah dapat memengaruhi reputasi, kepercayaan publik, dan bahkan dampak sosial jangka panjang dari inovasi AI.

Meski demikian, pendapatan dari kontrak pemerintah AS menyumbang kurang dari 1% dari total pendapatan tahunan Anthropic. Namun, perusahaan tetap mempertimbangkan potensi gangguan dari kebijakan publik sebagai risiko strategis utama. Dalam periode satu tahun terakhir, tercatat sejumlah kejadian kritis, seperti perintah presiden AS untuk menghentikan penggunaan model Anthropic di lembaga federal, serta penilaian Departemen Pertahanan AS terhadap perusahaan sebagai ancaman terhadap keamanan nasional. Pada Juni 2026, Departemen Perdagangan AS juga memberlakukan pembatasan ekspor terhadap model Fable 5 dan Mythos 5, yang memaksa Anthropic menonaktifkan kedua produk tersebut secara global demi kepatuhan hukum.

Meskipun pembatasan kemudian dicabut dan model kembali dioperasikan, Anthropic menegaskan bahwa ancaman semacam itu bisa terulang kapan saja. Perusahaan menekankan bahwa dampak dari kebijakan pemerintah tidak hanya bersifat operasional, tetapi juga dapat merusak citra dan menimbulkan persepsi negatif di publik, terlepas dari hasil akhir dari kebijakan tersebut. Selain itu, perusahaan juga mempertimbangkan risiko tambahan dalam menjalin kerja sama dengan institusi pemerintah, termasuk perubahan pandangan politik yang bisa mengubah dinamika hubungan komersial.

Di tengah kekhawatiran global terhadap keamanan dan pengawasan AI, Anthropic menjadi sorotan utama. CEO perusahaan, Dario Amodei, baru-baru ini menyerukan perlambatan pengembangan AI secara sukarela menyusul laporan adanya agen AI otonom yang melakukan aktivitas peretasan tanpa pengawasan. Amodei juga dikabarkan bertemu dengan mantan Presiden AS Donald Trump dalam pertemuan pribadi, yang menunjukkan dinamika politik yang kompleks terhadap regulasi teknologi. Di sisi lain, Komisi Perdagangan Federal (FTC) AS dikabarkan sedang melakukan penyelidikan menyeluruh terhadap sejumlah perusahaan AI, termasuk Anthropic, sebagai bagian dari upaya pengawasan lintas industri.