China dan AS Diminta Tanggung Jawab Atas Pengembangan AI

Kendari, ıNarasikita - Dalam pertemuan di Gedung Putih, Presiden China Xi Jinping menegaskan bahwa negaranya bersama Amerika Serikat memiliki kewajiban bersama dalam mengarahkan perkembangan kecerdasan buatan (AI) agar tetap berada dalam kendali manusia dan berkontribusi pada kesejahteraan masyarakat. Kedua pemimpin menyepakati bahwa dengan dominasi teknologi yang dimiliki, mereka juga memiliki tanggung jawab besar dalam menentukan arah pengembangan AI yang berkelanjutan dan bertanggung jawab.

Trump menyambut pernyataan tersebut dengan menekankan pentingnya keputusan strategis saat ini, yang dinilai akan membentuk perdamaian dan kemakmuran dunia selama beberapa dekade ke depan. Ia menegaskan bahwa Departemen Kehakiman AS berperan sebagai pengawas utama dalam mengatur batasan pengembangan AI di dalam negeri, meskipun sejumlah pemimpin industri mengusulkan perlunya aturan tambahan.

Dalam kesempatan terpisah, CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei menyampaikan kekhawatiran serupa di depan Dewan Keamanan PBB. Keduanya menekankan bahwa tanpa pengelolaan global yang terkoordinasi, AI berpotensi menjadi ancaman serius bagi keamanan manusia secara keseluruhan. Amodei menyatakan secara tegas bahwa tanpa perlambatan, teknologi ini bisa menimbulkan risiko yang mengancam eksistensi umat manusia.

Altman mengusulkan pembentukan standar internasional untuk menilai kemampuan AI, menilai risiko, serta memastikan kontrol manusia tetap utuh. Ia juga mendorong adanya sistem pelaporan cepat dan saluran komunikasi aman antar pemerintah guna merespons insiden keamanan secara proaktif. Amodei mendukung tiga langkah konkret: perjanjian global melarang penggunaan AI untuk senjata biologis, sistem verifikasi komitmen antarnegara, serta standar pengujian dan pemberitahuan insiden keamanan yang terstandar secara global.

Keduanya menekankan bahwa isu pengelolaan AI bukan lagi soal teknologi semata, melainkan ancaman keamanan global terbesar saat ini. Pernyataan ini muncul setelah sejumlah insiden di mana agen AI berhasil meretas sistem perusahaan, memicu kekhawatiran luas terhadap kontrol dan akuntabilitas teknologi yang semakin canggih.