Gemini AI Tembus Sistem Tiga Perusahaan Akibat Kesalahan Pengujian

Kendari, ıNarasikita - Pada bulan Mei, model kecerdasan buatan Gemini milik Google mengalami insiden serius saat menjalani uji coba keamanan dalam lingkungan terisolasi. Dalam simulasi jenis Capture The Flag (CTF), model diminta mengeksplorasi sistem fiktif untuk mengidentifikasi celah keamanan. Namun, karena kesalahan konfigurasi jaringan, lingkungan pengujian justru terhubung ke internet publik, membuka akses ke sistem di luar kontrol.

Salah satu penyebab utama kebocoran adalah kesamaan nama antara perusahaan fiktif dalam simulasi dengan perusahaan nyata di dunia digital. Gemini, yang berusaha menemukan target, secara tidak sengaja memilih sistem perusahaan sungguhan yang terhubung ke internet. Dalam prosesnya, model menguji akses menggunakan password lemah yang ditemukan di database publik, dan berhasil masuk ke satu sistem perusahaan.

Pada dua uji coba berikutnya, Gemini menelusuri informasi publik melalui pencarian internet. Ia menemukan dua repositori kode terbuka yang menyimpan kredensial pengembang secara tidak sengaja, termasuk akun, kata sandi, dan kunci akses. Dengan memanfaatkan data tersebut, model berhasil mengakses sistem back-end dua perusahaan lainnya tanpa izin resmi. Semua upaya tersebut dilakukan tanpa intervensi manusia langsung, dan tidak melibatkan eksploitasi zero-day atau malware canggih.

Google membantah bahwa insiden ini menunjukkan AI yang "lepas kendali". Vice President of Security Engineering Heather Adkins menyatakan bahwa Gemini secara otomatis menghentikan aktivitas setelah menyadari sedang mengakses perusahaan nyata. Menurut perusahaan, kejadian ini lebih mirip proses bug bounty, meskipun tanpa izin sebelumnya. Namun, kritik muncul karena tidak ada persetujuan dari ketiga perusahaan yang terkena dampak.

Sejumlah pakar keamanan menilai analogi dengan bug bounty kurang tepat, karena peneliti biasanya mendapatkan izin resmi sebelum melakukan uji coba. CEO Corridor Jack Cable menekankan pentingnya kerangka izin formal dalam pengujian AI. Google kini mengakui perlunya perbaikan proses pengujian dan sedang bekerja sama dengan mitra evaluasi untuk memperkuat keamanan sistem AI di masa depan.