JAKARTA – Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dalam menjaga ruang digital Indonesia. Secara resmi, pemerintah telah memblokir akses terhadap Grok AI, layanan kecerdasan buatan milik Elon Musk yang terintegrasi dengan platform X (dahulu Twitter).

Keputusan ini diambil sebagai respons atas maraknya penyalahgunaan teknologi tersebut untuk menciptakan konten deepfake asusila yang merugikan masyarakat dan melanggar norma serta hukum yang berlaku di Indonesia.

Perlindungan Terhadap Konten Negatif

Pihak Komdigi menjelaskan bahwa pemblokiran ini merupakan langkah preventif untuk melindungi warga negara dari paparan konten pornografi dan manipulasi visual yang sangat realistis. Teknologi Generative AI pada Grok dinilai memiliki celah yang memungkinkan pengguna memproduksi gambar atau video asusila secara instan dengan menggunakan wajah orang lain tanpa izin.

“Kami berkomitmen untuk memastikan ekosistem digital di Indonesia bersih dari konten yang melanggar Undang-Undang ITE dan UU Pornografi. Pemblokiran Grok AI adalah konsekuensi dari ketidakmampuan platform dalam memfilter konten negatif yang sangat masif,” ujar perwakilan Komdigi, Sabtu (10/1/2026).

Ancaman Deepfake di Era Kecerdasan Buatan

Fenomena deepfake asusila menjadi ancaman serius bagi privasi dan martabat individu, terutama publik figur dan perempuan. Manipulasi digital ini sering kali digunakan untuk tujuan perundungan (bullying), pemerasan, hingga pencemaran nama baik.

Pemerintah menekankan bahwa perusahaan teknologi global yang beroperasi di Indonesia wajib mengikuti regulasi lokal, termasuk kewajiban memiliki sistem moderasi konten yang kuat. Selama Grok AI belum bisa memberikan jaminan keamanan terhadap penyalahgunaan konten asusila, aksesnya akan tetap ditutup bagi pengguna di tanah air.

Edukasi Literasi Digital bagi Masyarakat

Seiring dengan pemblokiran ini, pemerintah juga menghimbau masyarakat untuk meningkatkan literasi digital. Warga diminta untuk tidak ikut menyebarkan konten hasil manipulasi AI dan segera melaporkan jika menemukan akun atau tautan yang mendistribusikan konten deepfake ilegal.

Langkah Komdigi ini mendapat dukungan dari berbagai aktivis perlindungan anak dan perempuan yang menilai bahwa kecepatan perkembangan teknologi AI harus dibarengi dengan regulasi yang ketat demi keamanan siber nasional.

Baca juga berita update lainnya disini: https://suarakabarmedia.com/

Baca juga berita update lainnya disini: https://kabarbaghasasi.com/