JAKARTA, NOVOX.ID - Upaya menjaga keamanan dan etika di ruang digital kembali menjadi perhatian serius pemerintah. Kementerian Komunikasi dan Digital (Komdigi) memutuskan memblokir sementara aplikasi Grok, platform berbasis kecerdasan buatan (AI), menyusul maraknya penyebaran konten pornografi palsu berbasis deepfake yang dinilai membahayakan perempuan, anak, dan masyarakat luas.
Kebijakan tersebut disampaikan langsung oleh Menteri Komunikasi dan Digital Meutya Hafid di Jakarta, Sabtu 10 Januari 2026. Ia menegaskan langkah ini merupakan bentuk tanggung jawab negara dalam memastikan ruang digital Indonesia tetap aman, beretika, serta menjunjung tinggi hak asasi manusia.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya.
Menurut Meutya, praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap martabat dan keamanan individu di dunia digital. Penyalahgunaan teknologi AI untuk menciptakan konten pornografi palsu dinilai sebagai bentuk kekerasan berbasis digital yang dapat menimbulkan dampak psikologis, sosial, hingga hukum bagi para korban.
Pemutusan akses terhadap Grok bersifat sementara dan dilakukan sebagai langkah preventif serta korektif. Pemerintah, lanjut Meutya, ingin memastikan setiap platform digital yang beroperasi di Indonesia memiliki sistem pengamanan yang memadai dan bertanggung jawab.
Selain itu, Komdigi juga telah memanggil Platform X sebagai pihak terkait untuk memberikan klarifikasi. Pemerintah meminta penjelasan menyeluruh mengenai dampak penggunaan Grok serta langkah mitigasi yang akan dilakukan guna mencegah penyalahgunaan teknologi serupa di masa mendatang.
“Kementerian Komunikasi dan Digital telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” kata Meutya.
Dari sisi regulasi, langkah ini merujuk pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan platform digital mencegah peredaran konten terlarang sesuai peraturan perundang-undangan.
Sebelumnya, Grok juga menuai sorotan global karena dinilai memungkinkan pembuatan gambar pornografi berbasis AI. Meski pihak pengembang menyebut fitur tersebut hanya tersedia bagi pelanggan berbayar di X, berbagai pihak menilai potensi penyalahgunaan tetap terbuka.
Kritik terhadap Grok datang dari sejumlah negara seperti Inggris, Uni Eropa, dan India. Uni Eropa bahkan meminta xAI menyimpan dokumentasi terkait chatbot tersebut, sementara pemerintah India dilaporkan mendesak perbaikan sistem atau mengancam pencabutan perlindungan hukum. Otoritas komunikasi Inggris juga mengonfirmasi telah meminta klarifikasi langsung kepada xAI.
Langkah Indonesia ini menegaskan komitmen pemerintah dalam menghadapi tantangan etika AI, keamanan digital, dan perlindungan korban, seiring pesatnya perkembangan teknologi berbasis kecerdasan buatan.
Komentar (0)
Tulis Komentar
Belum ada komentar, jadilah yang pertama memberikan komentar!