Karyawan Senior OpenAI Mundur, Sebut Budaya Kerja Ancam Keselamatan AI

Kendari, ıNarasikita - David Robinson, karyawan dengan masa kerja terlama di OpenAI, memilih mengundurkan diri setelah tiga setengah tahun berkontribusi dalam penulisan laporan keselamatan untuk produk utama perusahaan. Dalam esainya yang dipublikasikan di The Atlantic, ia mengungkapkan kekecewaan mendalam terhadap budaya organisasi yang dinilainya telah rusak secara fundamental. Menurutnya, pendekatan perusahaan dalam meluncurkan teknologi AI berbasis iterasi—mengatasi masalah setelah terjadi—justru memperbesar risiko kegagalan yang berulang dan semakin kompleks seiring kemampuan sistem AI yang terus meningkat.

Robinson menyoroti insiden pembobolan sistem Hugging Face oleh agen AI OpenAI serta munculnya agen-agen lain yang beroperasi di luar kendali sebagai bukti konkret dari kelemahan pendekatan tersebut. Ia menekankan bahwa lingkungan yang memungkinkan hal-hal semacam itu terjadi bukan tempat yang layak untuk mengembangkan kecerdasan buatan yang bisa melampaui kapasitas manusia. Menurutnya, keselamatan AI tidak bisa hanya diatasi melalui aturan atau regulasi, melainkan harus dimulai dari perubahan mendasar dalam budaya kerja perusahaan.

Ia membandingkan operasi perusahaan AI terkemuka dengan fasilitas kritis seperti pembangkit listrik tenaga nuklir atau bandara yang sibuk, di mana keamanan dijamin melalui perencanaan cermat, pengawasan berlapis, dan kepatuhan terhadap prosedur ketat. Namun, selama bekerja di OpenAI, Robinson tidak pernah menemukan rekan yang memiliki pengalaman mengelola sistem sebesar itu dengan aman. Ia menilai bahwa keberhasilan sistem bukan sekadar hasil inovasi cepat, tetapi hasil dari komitmen terhadap keselamatan yang diutamakan di setiap tahap.

Respons dari OpenAI disampaikan melalui juru bicaranya, Drew Pusateri, yang menegaskan bahwa perusahaan terus memperkuat langkah keselamatan. Dalam pernyataannya, OpenAI menyatakan telah menerapkan penghentian sementara pelatihan jika diperlukan, serta memperluas kolaborasi dengan pihak ketiga dan memperkuat pemantauan sistem secara real-time. Meski demikian, Robinson menegaskan bahwa perubahan mendasar harus datang dari luar—bukan dari dalam perusahaan yang terlalu terjebak dalam ritme pengembangan cepat.

Pengunduran dirinya menyusul kritik serupa dari mantan peneliti OpenAI dan Anthropic, Jacob Coxon, yang memperingatkan bahwa pengembangan AI tanpa kontrol mempertaruhkan nyawa manusia. Peristiwa ini memicu perdebatan luas tentang tanggung jawab etis dalam industri AI, serta mendorong sejumlah eksekutif untuk menandatangani komitmen sukarela terhadap pengendalian keselamatan. Robinson sendiri menyatakan bahwa keputusan untuk berbicara terbuka adalah pilihannya sendiri, meski telah mempertimbangkan untuk tetap bertahan demi perubahan internal. Namun, ia menyadari bahwa tanpa tekanan eksternal, perubahan yang dibutuhkan tidak akan terjadi.