OpenAI Tambahkan Watermark Tersembunyi pada Konten AI

Kendari, ıNarasikita - OpenAI kini menerapkan sistem penandaan digital berupa watermark tersembunyi pada semua teks yang dihasilkan oleh ChatGPT dan Codex, terutama untuk pengguna di wilayah Uni Eropa. Teknologi ini, bernama textGrain, bekerja dengan memodifikasi pola pilihan kata dan struktur kalimat secara statistik, sehingga menciptakan ciri khas yang bisa dideteksi oleh sistem, meski tidak terlihat oleh mata manusia biasa. Langkah ini diambil sebagai respons terhadap kewajiban hukum dari EU AI Act yang mewajibkan identifikasi konten yang dihasilkan oleh kecerdasan buatan.

Sistem deteksi yang dikembangkan OpenAI diklaim mampu mencapai akurasi setara atau bahkan lebih tinggi dibandingkan teknologi deteksi lain, termasuk SynthID dari Google DeepMind. Namun, perusahaan secara terbuka mengakui adanya keterbatasan dalam penggunaan nyata, terutama pada teks pendek, teks yang telah diedit, atau konten dengan variasi kata terbatas seperti rumus matematika. Dalam uji coba, terjadi kasus false positive—deteksi salah menunjukkan adanya watermark padahal tidak ada—dan false negative, yaitu gagal mendeteksi watermark yang sebenarnya ada.

Penggantian sebagian kata, bahkan dalam jumlah kecil, berdampak signifikan terhadap akurasi deteksi. Misalnya, perubahan sekitar 10 persen kata dapat menurunkan akurasi dari 92 persen menjadi 66 persen, sementara penggantian 25 persen kata menyebabkan akurasi turun hingga 17 persen. Meski demikian, OpenAI menegaskan bahwa watermark tidak memengaruhi kualitas jawaban, kecepatan respons, maupun akurasi hasil yang dihasilkan oleh model.

Watermark ini dimaksudkan untuk mendukung transparansi, terutama dalam konteks akademik, jurnalisme, dan penegakan hukum. Dengan adanya fitur ini, pihak-pihak yang berkepentingan—seperti lembaga penelitian, akademisi, dan instansi pengawas—dapat lebih mudah membedakan antara konten asli dan hasil generasi AI. Fitur ini telah diaktifkan secara bertahap untuk pengguna lokal di Uni Eropa, sementara bagi pengembang yang menggunakan API, opsi watermark sudah tersedia secara global. OpenAI menunda peluncuran global hingga sistem lebih matang dan menjamin keandalan tinggi.