AI Ancaman Global, Pemimpin Teknologi Minta Standar Internasional

Kendari, ıNarasikita - Dalam kesempatan berbeda namun dengan tujuan serupa, Sam Altman dari OpenAI dan Dario Amodei dari Anthropic menekankan urgensi regulasi internasional terhadap perkembangan kecerdasan buatan di hadapan Dewan Keamanan PBB. Keduanya menyampaikan kekhawatiran bahwa tanpa pengendalian bersama, kemajuan teknologi AI dapat menimbulkan ancaman serius bagi eksistensi manusia secara kolektif. Mereka menekankan bahwa kecepatan inovasi saat ini jauh melampaui kapasitas pengawasan global yang ada.

Altman menyoroti perlunya standar internasional yang mampu menilai kemampuan AI, menilai risikonya, serta memastikan bahwa manusia tetap berada di posisi kendali utama. Ia menyarankan dibentuk sistem pelaporan cepat dan akurat agar negara-negara dapat belajar dari insiden kegagalan teknologi sebelum terjadi bencana skala besar. Selain itu, ia juga mengusulkan adanya saluran komunikasi aman antar pemerintah untuk berbagi informasi mengenai ancaman keamanan AI yang muncul.

Amodei mengusulkan tiga pilar kerja sama global: perjanjian khusus yang melarang penggunaan AI untuk senjata biologis, sistem evaluasi saling verifikasi antar negara, serta standar uji coba AI berskala internasional dilengkapi mekanisme pemberitahuan insiden keamanan. Ia menyatakan bahwa isu ini merupakan ancaman keamanan global terbesar saat ini, memerlukan respons serius dan kolaboratif dari seluruh negara.

Keduanya menolak sikap ekstrem—baik yang terlalu pesimistis (disebut "trap of doomerism") maupun yang terlalu optimistis tanpa pertimbangan risiko. Altman menekankan pentingnya keseimbangan dalam menyikapi perkembangan AI, di mana teknologi bisa menjadi solusi untuk tantangan besar seperti krisis iklim dan kesehatan global, asalkan dikendalikan dengan bijak. Meski demikian, tidak ada kesepakatan formal yang dihasilkan dari pertemuan tersebut.