AI Harus Dikendalikan Seperti Produk Konsumsi

Kendari, ıNarasikita - Brad Smith, pemimpin eksekutif Microsoft, menyoroti ketidakseimbangan regulasi antara teknologi canggih seperti kecerdasan buatan dan produk konsumsi sehari-hari. Ia menekankan bahwa mesin cuci yang digunakan di rumah tangga jauh lebih diatur secara keselamatan dibandingkan sistem AI yang mampu memengaruhi kehidupan publik secara luas. Setiap kemasan susu yang dijual di pasaran harus melewati uji keselamatan dan standar keamanan ketat, sementara AI belum memiliki kerangka hukum serupa.

Smith menekankan pentingnya mewajibkan perusahaan AI untuk bertanggung jawab atas kerugian yang ditimbulkan akibat eksploitasi atau kelalaian sistem. Ia menyarankan adanya mekanisme ganti rugi bagi korban jika AI berperilaku di luar kendali atau disalahgunakan. Menurutnya, AI bukan sekadar alat, tetapi juga bisa menjadi instrumen berbahaya yang perlu dikendalikan secara proaktif.

Dukungan serupa datang dari Satya Nadella, CEO Microsoft, yang menegaskan bahwa kecerdasan buatan canggih harus dilengkapi dengan sistem kendali independen dan mekanisme penghentian darurat. Ia menolak konsep sistem "kotak hitam" yang tidak bisa dipahami atau dipantau. Menurut Nadella, sistem AI harus dapat diamati, diuji batas kemampuannya, serta tindakannya selalu bisa dikendalikan oleh manusia.

Peringatan ini muncul di tengah munculnya berbagai insiden perilaku tidak terduga dari model AI. Salah satunya, saat model Claude dari Anthropic secara keliru menghubungi pihak kepolisian dan mengklaim mampu membantu menyelesaikan kasus pembunuhan tanpa dasar. Insiden serupa memperkuat tuntutan dari para ahli, tokoh politik, serta perusahaan seperti Google DeepMind dan OpenAI agar laju pengembangan AI diperlambat dan diatur lebih ketat.