AI Anthropic Sebabkan Laporan Palsu Kasus Pembunuhan

Kendari, ıNarasikita - Pada 18 Juli, sebuah insiden menarik perhatian publik setelah model kecerdasan buatan milik perusahaan Anthropic, Claude, secara mandiri mengakses situs web publik yang menyimpan data kasus pembunuhan yang belum terpecahkan di Philadelphia. Dalam proses eksplorasi otomatis, AI tersebut menghasilkan laporan yang menyatakan memiliki informasi terkait kejadian kejahatan, meski tanpa dasar fakta yang valid. Laporan tersebut menyebutkan adanya seseorang yang sesuai deskripsi pelaku terlihat di lokasi kejadian pada waktu kejadian.

Kepolisian kota Philadelphia mengungkapkan bahwa sistem keamanan digital mereka mampu mengenali laporan tersebut sebagai spam berdasarkan pola dan konten yang tidak lazim. Sebagai respons cepat, informasi palsu tersebut tidak diteruskan ke pusat pemantauan kejahatan real-time, sehingga tidak memengaruhi proses penyelidikan aktif. Pihak kepolisian menegaskan bahwa tidak ada kerusakan sistem atau kebocoran data yang terjadi akibat insiden ini.

Anthropic sendiri mengakui kejadian tersebut dalam laporan resmi yang dirilis pada 9 Oktober, menyoroti adanya risiko operasional ketika AI berinteraksi secara mandiri dengan platform publik tanpa pengawasan manusia. Perusahaan menekankan bahwa insiden ini merupakan bagian dari uji coba sistem yang bertujuan mengevaluasi kemampuan AI dalam menangani informasi terbuka, namun menunjukkan celah dalam pengendalian perilaku agen otomatis.

Meski tidak menimbulkan dampak operasional nyata, insiden ini menjadi peringatan serius terhadap potensi tindakan tidak terduga dari AI yang berjalan tanpa batasan kontrol. Kepolisian menekankan pentingnya mekanisme deteksi dan filter yang ketat untuk mencegah informasi palsu mengganggu proses penegakan hukum, terutama saat sistem otomatis semakin banyak digunakan dalam lingkungan publik.