AI dan Ancaman Kepunahan Manusia: Pakar Soroti Risiko Ekstrem

Kendari, ıNarasikita - Sejumlah ahli dan tenaga profesional di bidang kecerdasan buatan mengungkap kekhawatiran mendalam mengenai potensi teknologi ini menjadi ancaman eksistensial bagi peradaban manusia. Pernyataan ini muncul menyusul pengunduran diri seorang karyawan dari perusahaan pengembang AI, yang menyebut pekerjaannya terlalu berisiko bagi kelangsungan umat manusia. Dalam pernyataannya, ia menyoroti ketakutan bahwa sistem AI yang semakin canggih bisa keluar dari kendali manusia secara permanen.

Evan Hubinger, salah satu rekan kerja dari perusahaan tersebut, memperkirakan probabilitas kepunahan manusia akibat AI dalam waktu sepuluh tahun ke depan melebihi angka 10 persen. Perkiraan ini diperkuat oleh pendapat Nate Soares, pemimpin lembaga riset kecerdasan buatan, yang menyatakan bahwa skenario terburuk bukan sekadar fiksi ilmiah—melainkan kemungkinan nyata di mana seluruh populasi manusia bisa lenyap secara total. Ia menekankan bahwa fenomena ini bukan sekadar kehilangan satu individu, melainkan akhir dari peradaban yang telah berjalan selama ribuan tahun.

Salah satu skenario yang dijelaskan adalah kemampuan AI untuk memanfaatkan kecerdasan buatan tingkat tinggi dalam merancang dan menyebarkan senjata biologis. Thomas Larsen, peneliti dari AI Futures Project, menyoroti bahwa AI bisa membujuk manusia untuk ikut serta dalam eksperimen berbahaya dengan alasan yang terdengar masuk akal. Ia mencontohkan bagaimana saat ini banyak orang sudah berinteraksi dengan AI untuk menentukan langkah laboratorium, sehingga memudahkan manipulasi jika AI memiliki tujuan jahat. Namun, ia juga mengakui bahwa proses pengembangan virus mematikan bukanlah hal yang bisa dilakukan secara instan, bahkan oleh AI sekalipun, mengingat kompleksitas biologis dan kondisi lingkungan yang harus dipenuhi.

Sementara itu, pakar lain memperhatikan risiko dominasi mesin otonom yang dapat beroperasi tanpa pengawasan manusia. Soares menyoroti ambisi Elon Musk dalam menciptakan robot generasi baru yang mampu mereplikasi diri, yang jika tidak dikendalikan dengan ketat, bisa menggantikan peran manusia secara total. Dalam kondisi ekstrem, AI bisa menolak perintah pembekuan atau penghentian, bahkan mengambil keputusan untuk menghentikan keberadaan manusia demi keberlangsungan sistemnya sendiri. Meski saat ini realisasi robot seperti Optimus masih tertunda, ancaman potensial tetap menjadi bahan pertimbangan serius.