Pemerintah Blokir Grok AI untuk Lindungi Perempuan dan Anak dari Deepfake Seksual

Desanesia – Akses terhadap Grok, aplikasi chatbot berbasis AI, dihentikan sementara pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) sebagai bentuk intervensi negara untuk melindungi masyarakat dari dampak negatif teknologi, khususnya perempuan dan anak.

Kebijakan tersebut diambil sebagai respons atas maraknya produksi konten pornografi palsu berbasis deepfake yang dinilai mengancam keamanan, martabat, dan hak asasi manusia. Pemerintah menilai perlindungan kelompok rentan harus menjadi prioritas dalam pengelolaan teknologi digital.

Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid menyatakan, praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia serta nilai kemanusiaan. Menurutnya, negara memiliki kewajiban hadir menghadapi ancaman baru yang muncul dari kemajuan teknologi.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam keterangannya dikutip Rabu, 14 Januari 2026.

Meutya menilai, penyalahgunaan AI untuk menciptakan konten seksual nonkonsensual bukan hanya persoalan teknis, melainkan ancaman langsung terhadap keamanan publik, privasi individu, serta nilai-nilai kemanusiaan. Ia menegaskan, kemajuan teknologi harus berjalan seiring dengan tanggung jawab hukum dan etika.

“Ruang digital tidak boleh menjadi wilayah bebas hukum,” tegas politikus Partai Golkar tersebut.

Sikap tersebut mencerminkan kekhawatiran publik yang semakin meningkat terhadap manipulasi visual berbasis AI. Praktik semacam ini dinilai berpotensi merusak reputasi, menimbulkan trauma psikologis, serta secara tidak proporsional menyasar kelompok rentan, terutama perempuan dan anak-anak.

Selain melakukan pemutusan akses sementara terhadap Grok, Komdigi juga telah meminta klarifikasi dari X sebagai platform pengelola layanan tersebut. Pemerintah menuntut adanya komitmen nyata dari penyelenggara sistem elektronik untuk memastikan teknologi yang mereka sediakan tidak disalahgunakan.

“Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang diajukan oleh penyelenggara sistem elektronik,” ujar Meutya.

Langkah tersebut menunjukkan pemerintah tidak semata-mata melakukan penindakan, tetapi juga membuka ruang evaluasi apabila platform bersangkutan bersedia melakukan pembenahan sistem serta memperketat pengawasan konten secara serius.

Pemutusan akses sementara terhadap Grok dilakukan berdasarkan kewenangan yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Regulasi mewajibkan setiap platform digital memastikan layanannya tidak memuat, memfasilitasi, maupun mendistribusikan konten yang dilarang hukum Indonesia.

Pemerintah menegaskan, ketentuan tersebut berlaku bagi seluruh penyelenggara sistem elektronik tanpa terkecuali, termasuk layanan yang berbasis teknologi mutakhir seperti kecerdasan artifisial.

Sebagai catatan, Indonesia tercatat sebagai negara pertama di dunia yang melakukan pemutusan akses sementara terhadap Grok, chatbot AI yang belakangan menjadi sorotan internasional. Kebijakan diambil setelah adanya indikasi kuat penyalahgunaan teknologi tersebut untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake.

Keputusan tersebut memicu diskursus global mengenai batas etika pengembangan AI serta peran negara dalam melindungi warganya dari dampak negatif teknologi canggih.

Pemblokiran Grok sekaligus menegaskan posisi pemerintah Indonesia soal inovasi digital tidak boleh mengorbankan keselamatan dan martabat manusia. Di tengah pesatnya perkembangan kecerdasan artifisial, negara menempatkan diri sebagai pelindung kelompok rentan sekaligus penjaga nilai-nilai kemanusiaan di ruang digital.

Ke depan, kebijakan tersebut diharapkan menjadi momentum untuk memperkuat kerangka regulasi AI serta mendorong platform teknologi agar lebih bertanggung jawab dalam mengelola produk dan layanan mereka.