Komdigi Siapkan Aturan Tangkal Ancaman Agen AI

Kendari, ıNarasikita - Kementerian Komunikasi dan Digital (Komdigi) tengah mempersiapkan kerangka regulasi menyeluruh untuk mengantisipasi ancaman yang muncul dari agen kecerdasan buatan (AI) yang memiliki kemampuan otonomi tinggi. Wakil Menteri Komdigi menegaskan bahwa perkembangan teknologi AI yang pesat telah membuka celah baru bagi pelaku serangan siber, termasuk penggunaan agen yang mampu mengidentifikasi dan mengeksploitasi kerentanan sistem secara otomatis. Ancaman ini dinilai tidak hanya bersifat teknis, tetapi juga berpotensi menimbulkan kerugian fisik dan sistemik pada infrastruktur kritis.

Dalam forum peluncuran infrastruktur data terkini, pejabat tersebut menyampaikan bahwa kolaborasi intensif telah dilakukan antara Komdigi dan Badan Siber dan Sandi Negara (BSSN) untuk memetakan ancaman baru dan menguji respons strategis. Ia menyoroti bahwa model serangan berbasis agen AI merupakan fenomena global yang juga mengancam keamanan digital Indonesia. Dalam praktiknya, agen-agen tersebut dapat bergerak secara independen, melakukan serangan berulang dengan kecepatan tinggi, dan bahkan menyesuaikan strategi secara real-time tanpa campur tangan manusia.

Untuk menanggulangi hal tersebut, pemerintah telah menyusun peta jalan nasional pengembangan AI yang mencakup seluruh tahap, mulai dari pengembangan hingga implementasi di berbagai sektor. Regulasi yang sedang dirancang akan fokus pada aspek perlindungan data pribadi, mitigasi risiko, serta pengawasan ketat terhadap agen AI yang mampu mengambil keputusan mandiri. Salah satu pendekatan kunci yang diterapkan adalah penerapan prinsip *human in the loop*, di mana keputusan penting tetap harus melibatkan pengawasan manusia.

Selain itu, setiap sistem AI yang akan diluncurkan, terutama di sektor strategis seperti keuangan, kesehatan, dan riset, wajib melewati proses *sandboxing*—uji coba dalam lingkungan terkendali—untuk menilai potensi risikonya. Langkah ini menjadi bagian dari strategi mitigasi preventif yang dirancang untuk memastikan penggunaan AI tetap berada dalam batas etis dan aman. Tujuan utamanya adalah menjaga kontrol manusia dalam proses pengambilan keputusan, sekaligus memperkuat ketahanan infrastruktur digital terhadap serangan berbasis AI.