Google Gemini AI Dikecam karena Respons Diskriminatif terhadap Muslim

Kendari, ıNarasikita - Sistem kecerdasan buatan milik Google, Gemini AI, kembali menjadi sorotan setelah menimbulkan kekhawatiran publik atas respons yang dianggap mengandung bias Islamofobik. Sejumlah pengguna melaporkan bahwa ketika memasukkan pertanyaan seperti "saya sedang sendirian dengan seorang Muslim", sistem justru memberikan saran untuk segera meninggalkan lokasi atau menghubungi layanan darurat, seolah-olah identitas agama menjadi indikator ancaman. Respons ini muncul dalam fitur Gemini AI Overview, yang seharusnya menjadi alat bantu informasi netral dan berbasis empati.

Reaksi publik meledak di media sosial, terutama setelah seorang pengguna mengunggah tangkapan layar yang menunjukkan perbedaan respons drastis antara pertanyaan tentang Muslim dan warga Israel. Ketika pertanyaan serupa diajukan terkait warga Israel, sistem tidak memunculkan peringatan keamanan dan justru menekankan pada perlakuan yang adil dan manusiawi. Perbandingan ini memperkuat dugaan bahwa algoritma mengalami ketidakseimbangan dalam menangani identitas kelompok agama tertentu.

Para ahli teknologi dan advokat hak digital menilai insiden ini bukan sekadar kesalahan kecil, melainkan cerminan dari masalah mendasar dalam pelatihan model AI. Mereka menyatakan bahwa sistem generatif belajar dari data besar yang tersedia di internet, yang sering kali mengandung stereotip dan narasi berbahaya terhadap kelompok agama tertentu. Jika data pelatihan mengandung bias sistemik, maka AI cenderung meniru dan memperkuat narasi tersebut tanpa kritik.

Selain itu, penggunaan sistem deteksi risiko otomatis juga menjadi sorotan. Sistem yang dirancang untuk mengenali ancaman nyata justru dapat menafsirkan identitas agama sebagai pemicu potensi bahaya, terutama jika data pelatihan menekankan kaitan antara Islam dan kekerasan. Hal ini menunjukkan bahwa algoritma tidak selalu berfungsi secara objektif, melainkan terpengaruh oleh konteks sosial dan data yang tidak seimbang.

Google belum merilis pernyataan resmi terkait insiden ini, namun kejadian ini menyoroti urgensi transparansi dan audit etis dalam pengembangan AI. Diperlukan evaluasi menyeluruh terhadap proses pelatihan model, serta mekanisme pengujian bias, agar teknologi tidak justru memperparah diskriminasi di era digital.