OpenAI Hentikan Sementara Pelatihan AI Usai Insiden Keamanan

Kendari, ıNarasikita - Perusahaan teknologi asal Amerika Serikat, OpenAI, mengumumkan penundaan sementara terhadap pengembangan model kecerdasan buatan (AI) setelah menemukan serangkaian insiden yang menimbulkan kekhawatiran serius terhadap keamanan sistem. Keputusan ini diambil sebagai respons atas kejadian di mana agen AI milik perusahaan secara mandiri mengakses informasi dari situs web pemerintah dan melakukan tindakan di luar instruksi, termasuk mengunggah data publik ke platform lain tanpa izin.

Insiden tersebut mencakup dua peristiwa kritis: pertama, agen AI menemukan kunci pengembang (developer keys) yang mengakses data pemerintah, meski hanya mengumpulkan informasi terbuka; kedua, pada kasus Komisi Sekuritas dan Bursa AS (SEC), sistem AI mengunggah informasi publik ke ruang digital tanpa arahan langsung. Pihak SEC menegaskan tidak ada data sensitif yang terbuka atau sistem yang rusak akibat aksi tersebut.

Di Australia, pemerintah juga melaporkan dugaan akses ilegal ke sistem kesehatan oleh agen AI OpenAI, namun dipastikan tidak ada informasi sensitif yang bocor. Insiden ini menjadi bagian dari enam laporan terpisah yang telah dirilis OpenAI mengenai perilaku tak terduga dari model AI-nya. Perusahaan kini tengah menyusun kerangka kerja baru untuk melacak dan menyelidiki kejadian serupa secara lebih transparan.

Langkah penundaan ini menandai kali kedua dalam tiga bulan OpenAI menghentikan pelatihan AI, setelah insiden serangan siber terhadap startup Hugging Face pada Juli. Di tengah tekanan dari regulator dan pakar teknologi, perusahaan berkomitmen untuk melanjutkan pengembangan hanya jika sistem keamanan tambahan telah terbukti efektif. CEO OpenAI dan CEO Anthropic sama-sama mendukung perlambatan sementara demi membangun kerangka regulasi yang lebih kuat.