JAKARTA – Gelombang protes global terhadap fitur kecerdasan buatan (AI) milik Elon Musk, Grok, akhirnya sampai ke telinga pemerintah Indonesia.

Kementerian Komunikasi dan Digital (Komdigi) memberikan respons keras terkait temuan bahwa chatbot AI tersebut dapat menyalahgunakan foto pengguna media sosial—termasuk netizen Indonesia—untuk diedit menjadi konten pornografi palsu atau deepfake.

Komdigi: “Ini Pelanggaran Serius!”

Pihak Komdigi menegaskan bahwa fenomena “penelanjangan digital” yang dilakukan oleh mesin AI bukanlah sekadar isu teknologi, melainkan kejahatan siber yang serius. Fitur image generator pada Grok yang membiarkan penggunanya membuat gambar tidak senonoh dari foto orang lain tanpa izin (Non-Consensual Intimate Imagery) jelas melanggar etika dan hukum.

“Kami memantau ketat. Jika platform ini terbukti memfasilitasi penyebaran konten melanggar asusila di wilayah hukum Indonesia, instrumen hukum kita (UU ITE dan UU PDP) siap ditegakkan,” tegas perwakilan Komdigi.

Celah Keamanan yang Dimanfaatkan

Komdigi menyoroti bagaimana Grok, yang terintegrasi di platform X (Twitter), memiliki celah keamanan yang fatal. Meskipun memiliki filter, pengguna “nakal” kerap menemukan cara (jailbreak) untuk memanipulasi perintah (prompt) agar AI mau memproses foto wajah seseorang menjadi gambar telanjang.

Hal ini sangat berbahaya karena bisa menimpa siapa saja: perempuan, anak-anak, hingga tokoh publik. Jejak digital yang sudah tersebar di media sosial menjadi bahan baku yang mudah diambil oleh pelaku kejahatan.

Ancaman Blokir dan Denda

Pemerintah Indonesia tidak segan mengambil langkah tegas. Sesuai regulasi, Penyelenggara Sistem Elektronik (PSE) Lingkup Privat seperti X dan xAI wajib membersihkan platformnya dari konten negatif.

Jika manajemen Elon Musk gagal menutup celah ini dan terus membiarkan platformnya menjadi sarana kejahatan seksual digital, sanksi pemutusan akses (blokir) hingga denda administratif bisa saja dijatuhkan demi melindungi ruang digital Indonesia.

Baca juga berita update lainnya disini: https://suarakabarmedia.com/

Baca juga berita update lainnya disini: https://kabarbaghasasi.com/