Kementerian Komunikasi dan Digital (Kemkomdigi) mengancam akan memutus akses layanan kecerdasan buatan Grok AI dan platform X di Indonesia. Langkah ini diambil menyusul adanya temuan penyalahgunaan teknologi tersebut untuk memproduksi serta menyebarkan konten asusila yang melanggar hukum dan hak privasi.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit untuk mencegah distribusi konten pornografi berbasis foto nyata. Kondisi tersebut menurutnya berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya terkait manipulasi foto tanpa persetujuan.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, pada Rabu, 7 Januari 2026.
Ia menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya yang sah. Tindakan tersebut, kata dia, dapat menimbulkan kerugian psikologis, sosial, dan reputasi yang sangat mendalam bagi setiap individu yang menjadi korban di ruang digital.
Alexander menegaskan bahwa Kemkomdigi saat ini terus berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme pelindungan yang efektif bagi publik. Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas mantan Direktur Bidang Pemberantasan Badan Narkotika Nasional (BNN) tersebut.
Ia pun mengingatkan bahwa kewajiban kepatuhan terhadap peraturan perundang-undangan nasional melekat pada seluruh PSE yang menarik manfaat di wilayah Indonesia. Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi tidak akan ragu menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.
Penyedia layanan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi tanpa hak dapat dikenakan sanksi administratif dan pidana sesuai ketentuan yang berlaku. Hal ini sejalan dengan komitmen pemerintah dalam menjaga ruang digital agar tetap bersih dari praktik eksploitasi dan manipulasi citra pribadi yang merugikan masyarakat.
Sejak berlakunya UU Nomor 1 Tahun 2023 tentang KUHP pada 2 Januari 2026, lanjut Alexander, konten pornografi diatur secara ketat dalam Pasal 172 dan Pasal 407. Pasal 407 secara spesifik mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda bagi para pelanggar norma kesusilaan tersebut.
Alexander menambahkan bahwa masyarakat yang menjadi korban manipulasi foto atau deepfake asusila dapat menempuh upaya hukum melalui mekanisme yang tersedia. Hal tersebut mencakup pelaporan langsung kepada aparat penegak hukum maupun pengaduan resmi kepada pihak Kemkomdigi untuk segera ditindaklanjuti secara teknis.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” tuturnya.