JAKARTA, NOVOX.ID -Fitur kecerdasan buatan Grok AI milik platform X kembali menuai sorotan tajam setelah dinilai disalahgunakan untuk memproduksi konten asusila dan pornografi berbasis deepfake. Isu ini memantik reaksi keras dari berbagai pihak, termasuk pemerintah Indonesia dan DPR RI, yang menilai ruang digital semakin kehilangan kendali akibat lemahnya moderasi konten.
Wakil Ketua Komisi I DPR Fraksi PKS, Sukamta, menegaskan bahwa polemik Grok AI bukan sekadar isu teknis, melainkan persoalan serius yang menyentuh perlindungan masyarakat, khususnya perempuan dan anak. Ia menyebut penyalahgunaan teknologi AI di platform X telah memicu protes global.
“Dunia maya kini dihadapkan kembali pada tantangan konten asusila dan pornografi. Artificial intelligence yang dimiliki platform X disalahgunakan untuk membuat konten deepfake bernuansa pornografi. Respons berbagai pihak di seluruh dunia cukup keras,” ujar Sukamta, di Jakarta, Senin 12 Januari 2026.
Sukamta mendukung penuh langkah tegas pemerintah Indonesia yang mengancam akan memblokir platform X jika tidak ada perbaikan signifikan dari pihak pengelola. Menurutnya, pembatasan fitur Grok yang hanya berlaku bagi pelanggan berbayar belum menyentuh akar masalah.
“Saya rasa tidak cukup respons X hanya membatasi fitur tersebut untuk pelanggan berbayar. Fitur tersebut harus dibatasi dengan filter yang sangat ketat agar tidak ada celah bagi siapa pun untuk men-generate konten negatif,” tegasnya.
Selain menuntut perbaikan sistem, Sukamta juga mendorong penegakan hukum terhadap pihak-pihak yang terbukti memanfaatkan Grok AI untuk memproduksi dan menyebarkan konten pornografi. Ia menilai tanpa sanksi tegas, penyalahgunaan teknologi akan terus berulang.
Sementara itu, Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa pemutusan akses sementara terhadap Grok merupakan langkah perlindungan negara terhadap warga.
Pemerintah memandang praktik deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya.
Ia menambahkan, ruang digital tidak boleh menjadi wilayah tanpa hukum. Pemerintah juga mendesak X untuk memberikan klarifikasi dan bertanggung jawab penuh atas dampak dari fitur AI yang mereka kembangkan.
Kasus Grok AI ini menjadi alarm keras bahwa perkembangan teknologi tanpa pengawasan ketat justru dapat menciptakan ancaman baru. Di tengah pesatnya inovasi kecerdasan buatan, tuntutan akan etika, tanggung jawab platform, dan perlindungan publik kini semakin menguat.
Komentar (0)
Tulis Komentar
Belum ada komentar, jadilah yang pertama memberikan komentar!