KALTIMPOST.ID, Pengguna platform X baru-baru ini dikagetkan oleh fitur AI Grok yang digunakan untuk melakukan pelecehan seksual digital dengan memanipulasi foto pengguna lain terutama para perempuan dan anak-anak untuk menjadi konten berbahan pornografi.
Hal ini memicu kecaman dari berbagai pihak seperti publik figur hingga pemerintah di sejumlah negara.
Pemerintah melalui Kemkomdigi pada tanggal 10 Januari 2026, resmi menutup sementara akses aplikasi AI Grok usai kejadian yang menimpa banyak perempuan dan anak di bawah umur akibat pembuatan konten pornografi yang dihasilkan menggunakan fitur AI tersebut.
Baca Juga: Link Live Streaming Arema FC vs Persik Kediri di BRI Super League 2025-2026 Sore Ini 11 Januari
Pemerintah menganggap deepfake seksual yang terjadi sebagai pelanggaran serius terhadap Hak Asasi Manusia, martabat, serta keamanan warga negara di dalam ruang digital.
Peristiwa pelecehan digital oleh AI Grok ini mendapat perhatian publik karena telah menyeret banyak publik figur internasional maupun nasional sebagai korbannya.
Bernadya dan Freya JKT48 termasuk di antara publik figur yang telah menjadi korban penyalahgunaan fitur AI ini.
Bernadya mengecam tindakan pembuatan konten bermuatan seksual yang ia alami melalui akun X miliknya dan menyebut pelaku memiliki "otak aneh". Manajemen JKT48 juga mengeluarkan pernyataan resmi dan siap membawa pelaku ke ranah hukum.
Pengguna-pengguna tidak bertanggung jawab tersebut memanfaatkan AI Grok yang tersedia untuk menghasilkan foto-foto perempuan atau anak di bawah umur mengenakan pakaian minim bahkan tidak berbusana tanpa persetujuan pemiliknya.
Tindakan ini memenuhi X selama beberapa waktu terakhir dan membuat banyak perempuan merasa tidak aman.
Para pengguna platform X di beberapa negara secara masif melakukan protes untuk meminta perbaikan fitur AI Grok agar kejadian ini tidak terus terjadi dan menambah korban lain. Publik mengecam X agar segera menghapus atau membatasi fitur AI Grok tersebut.
Pihak X sebelumnya sempat merespons hal ini dan mengeluarkan permohonan maaf serta memberikan pernyataan mereka terkait peristiwa yang sedang ramai terjadi.
“xAI sedang menerapkan pengamanan yang lebih kuat untuk mencegah hal ini”, dikutip dari The Guardian (7/1/2026).
Elon Musk ikut angkat suara dan mengatakan bahwa siapapun yang menggunakan AI Grok untuk menciptakan konten ilegal akan menanggung konsekuensi hukum layaknya mengunggah konten ilegal.
Peristiwa ini masih terus menjadi perbincangan terutama di Indonesia. Kemkomdigi sebelumnya menjelaskan, bahwa tindakan manipulasi digital terhadap foto pribadi dapat berisiko melanggar hak privasi dan hak atas citra diri.
Kemkomdigi menilai manipulasi digital terhadap foto pribadi dapat menimbulkan kerugian psikologis, sosial dan reputasi.
Melanjuti respon sebelumnya, pada 9 Januari 2026 lalu dikabarkan melalui situs resmi The Guardian bahwa X menonaktifkan pembuatan dan pengeditan gambar AI Grok untuk sebagian besar pengguna dan menjadikannya fitur premium hanya untuk para pengguna berbayar.
Hal ini dilakukan pihak X setelah munculnya ancaman denda kepada Elon Musk, tindakan regulasi, dan larangan X di berbagai negara.
Sebagai platform yang terdaftar dalam Penyelenggara Sistem Elektronik (PSE) di Indonesia, X memiliki kewajiban untuk memastikan teknologi yang disediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang serta memiliki kewajiban untuk mencegah pembuatan deepfake asusila.
Apabila terbukti tidak dipatuhi, maka akan dijatuhkan sanksi administratif hingga pemutusan akses layanan pada AI Grok maupun platform X itu sendiri.
Editor : Hernawati