AI dan Ancaman Kemanusiaan: Peringatan dari Pelopor Teknologi

Kendari, ıNarasikita - Para tokoh kunci di balik perkembangan kecerdasan buatan global kini bersuara bersama soal risiko mendasar yang mungkin ditimbulkan oleh sistem AI yang semakin canggih. Yoshua Bengio dan Geoffrey Hinton, dua nama yang kerap disebut sebagai pelopor teknologi deep learning, mengungkapkan kekhawatiran serius terhadap kemampuan AI untuk menyerang sistem keamanan digital dan bahkan merancang ancaman biologis atau siber yang mematikan. Mereka menekankan bahwa saat ini, AI sudah memiliki kapasitas peretasan dan manipulasi yang cukup tinggi untuk digunakan secara merugikan.

Bengio menyoroti pentingnya membangun sistem pengujian yang aman dan mengintegrasikan standar keselamatan sejak awal pengembangan. Ia menegaskan bahwa penelitian harus terus dilakukan untuk memahami perilaku AI, termasuk kemampuan mereka dalam berpikir dan berinteraksi di dalam jaringan. Menurutnya, kemajuan teknologi harus diimbangi dengan mekanisme pengawasan independen yang kuat agar tidak terjadi kegagalan kontrol yang berakibat fatal.

Hinton, yang juga pionir jaringan saraf tiruan, menyatakan ada kemungkinan hingga 10 persen bahwa AI bisa menjadi ancaman terhadap eksistensi manusia dalam waktu sepuluh tahun ke depan. Ia menekankan bahwa peradaban belum pernah menghadapi entitas yang mungkin lebih cerdas dari manusia. Dalam wawancara, ia menyebut bahwa AI bisa menciptakan virus komputer atau senjata biologis tanpa intervensi manusia langsung. Ia menekankan dua pilihan masa depan: mengatasi bahaya tersebut sebelum terjadi, atau gagal melakukannya dengan konsekuensi tak terelakkan.

Di tengah kekhawatiran ini, para pemimpin industri seperti Sam Altman, Demis Hassabis, dan Elon Musk juga mendukung perlambatan pengembangan AI secara bertahap. Mereka menekankan perlunya kerangka regulasi yang kuat, bukan hanya diatur oleh perusahaan teknologi besar. Aidan Gomez, CEO Cohere dan salah satu penulis makalah fundamental tentang model AI modern, menambahkan bahwa kegagalan keamanan bukan karena desain AI yang intrinsik, melainkan karena sistem pengujian yang lemah. Ia menekankan bahwa setiap sistem AI harus dinilai berdasarkan risikonya masing-masing, bukan hanya berdasarkan ambisi teknologi.