Pemerintah melalui Kementerian Komunikasi dan Digital (Kemkomdigi) resmi memblokir atau melakukan pemutusan akses sementara terhadap layanan Grok AI di Indonesia. Langkah tegas ini diambil guna melindungi perempuan, anak, dan masyarakat dari risiko konten pornografi palsu hasil teknologi kecerdasan artifisial.
Kemkomdigi memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital. Tindakan tegas ini dilakukan setelah sebelumnya Kemkomdigi memberikan peringatan keras serta ancaman pemblokiran terhadap platform tersebut.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menyatakan pihaknya telah meminta pengelola Platform X untuk segera memberikan penjelasan lebih lanjut. “Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ungkap Meutya, Sabtu, 10 Januari 2026.
Keputusan memblokir Grok AI ini merujuk pada temuan Direktorat Jenderal Pengawasan Ruang Digital Kemkomdigi terkait minimnya sistem pengaman pada fitur AI tersebut. Teknologi Grok AI ditemukan dapat disalahgunakan untuk memanipulasi identitas visual orang nyata ke dalam konten asusila tanpa persetujuan.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa belum ada pengaturan spesifik dalam Grok AI untuk mencegah penyalahgunaan tersebut. “Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu, 7 Januari 2026.
Ia menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya. Tindakan tersebut dapat menimbulkan kerugian psikologis, sosial, dan reputasi yang sangat mendalam bagi setiap individu yang menjadi korban.
Temuan tersebut juga selaras dengan desakan dari Komisi I DPR RI yang meminta pemerintah bersikap proaktif terhadap kekerasan berbasis teknologi. DPR menilai pemrosesan identitas visual untuk konten seksual tanpa dasar hukum merupakan pelanggaran hak individu yang sangat berat.
Tindakan pemutusan akses ini didasari oleh Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Pasal 9 aturan tersebut mewajibkan setiap PSE memastikan sistem yang dikelolanya tidak memfasilitasi atau menyebarluaskan dokumen elektronik yang dilarang.
Pemerintah juga mengingatkan bahwa Kitab Undang-Undang Hukum Pidana (KUHP) Nasional telah resmi berlaku sejak tanggal 2 Januari 2026. Oleh karena itu, setiap platform digital yang beroperasi di wilayah hukum Indonesia wajib mematuhi seluruh standar keamanan dan hukum nasional.