Nadella Soroti Kebutuhan Rem Darurat untuk AI Canggih

Kendari, ıNarasikita - Satya Nadella, pemimpin eksekutif Microsoft, menegaskan bahwa teknologi kecerdasan buatan yang semakin canggih harus didukung dengan desain sistem yang mengakomodasi kendali manusia dan prosedur penghentian darurat. Dalam pernyataannya di platform media sosial, ia menyatakan bahwa model AI yang beroperasi secara kompleks dan sering kali tidak dapat diprediksi memerlukan mekanisme pembatasan yang kuat dan independen. Tujuannya adalah agar pihak berwenang dapat menghentikan atau menonaktifkan sistem ketika terjadi anomali atau risiko yang tidak terduga.

Nadella menekankan pentingnya prinsip keterpantauan dalam pengembangan AI, yaitu kemampuan untuk memantau, mencatat, dan memahami aktivitas model secara menyeluruh. Ia menyebut bahwa sistem yang aman bukan hanya didasarkan pada kepercayaan terhadap keandalan model, tetapi pada kemampuan untuk memantau, mengaudit, dan menguji sistem secara berkelanjutan. Ia juga menyarankan perlunya standar industri yang lebih ketat, terutama untuk model AI dengan bobot terbuka maupun tertutup, sebagai respons terhadap potensi ancaman dari akses internal atau penggunaan tidak bertanggung jawab.

Pernyataan Nadella muncul di tengah meningkatnya kekhawatiran dari kalangan ilmuwan dan eksekutif teknologi global, termasuk Bill Gates, Sam Altman, Dario Amodei, dan Elon Musk, yang meminta perlambatan pengembangan AI demi keamanan. Beberapa peneliti bahkan mengundurkan diri dari perusahaan AI besar, mengungkapkan kekhawatiran bahwa risiko kehancuran manusia akibat AI telah mencapai tingkat lebih dari 10 persen menurut salah satu mantan pemimpin tim keselamatan AI di Anthropic.

Di sisi lain, mantan Presiden AS Donald Trump menolak kekhawatiran tersebut, menekankan pentingnya menjaga dominasi industri AI Amerika Serikat terhadap China. Ia meluncurkan gugus tugas baru bernama "AI Force", dipimpin oleh Direktur Intelijen Nasional Jay Clayton, untuk mendorong inovasi sekaligus mengawasi potensi penyalahgunaan teknologi. Namun, di tengah dinamika ini, Nadella menegaskan bahwa keamanan dan kontrol tetap harus menjadi fondasi utama dalam evolusi AI.