KABARIKA.ID, JAKARTA — Indonesia dan Malaysia menjadi negara pertama yang memblokir Grok, chatbot kecerdasan buatan yang dikembangkan oleh xAI milik Elon Musk.
Langkah itu diambil setelah pihak berwenang di kedua negara itu mengatakan bahwa Grok disalahgunakan untuk menghasilkan gambar eksplisit seksual dan tidak berdasarkan persetujuan.
Pemerintah Indonesia untuk sementara memblokir akses ke Grok mulai hari Sabtu (10/01/2026), sementara Malaysia melakukan tindakan yang sama pada Minggu (11/01/2026).
Keputusan pemblokiran tersebut tersebut mencerminkan meningkatnya kekhawatiran global terhadap alat AI generatif yang dapat menghasilkan gambar, suara, dan teks yang realistis, sementara pengamanan yang ada gagal mencegah penyalahgunaannya.
Chatbot Grok, yang diakses melalui platform media sosial X milik Musk, telah dikritik karena menghasilkan gambar yang dimanipulasi, termasuk penggambaran wanita berbikini atau pose seksual eksplisit, serta gambar yang melibatkan anak-anak.
Regulator di kedua negara Asia Tenggara tersebut mengatakan bahwa kontrol yang ada tidak mencegah pembuatan dan penyebaran konten pornografi palsu, khususnya yang melibatkan perempuan dan anak di bawah umur.
“Pemerintah memandang deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga negara di ruang digital,” kata Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid dalam sebuah pernyataan pada hari Sabtu.
Kemenkomdigi mengatakan langkah tersebut dimaksudkan untuk melindungi perempuan, anak-anak, dan masyarakat luas dari konten pornografi palsu yang dihasilkan menggunakan AI.
“Temuan awal menunjukkan bahwa Grok tidak memiliki pengamanan yang efektif untuk menghentikan pengguna dari membuat dan mendistribusikan konten pornografi berdasarkan foto asli warga Indonesia,” kata Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital, dalam pernyataan terpisah.
Sabar mengatakan, praktik tersebut berisiko melanggar privasi dan hak cipta ketika foto dimanipulasi atau dibagikan tanpa persetujuan, menyebabkan kerugian psikologis, sosial, dan reputasi.
Pemblokiran di Malaysia
Di Kuala Lumpur, Komisi Komunikasi dan Multimedia Malaysia memerintahkan pembatasan sementara pada Grok pada hari Minggu (11/01/2026).
Langkah tersebut diambil karena terjadinya penyalahgunaan berulang alat tersebut untuk menghasilkan gambar cabul, eksplisit secara seksual, dan manipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak di bawah umur.
Regulator negara jiran itu mengatakan bahwa pemberitahuan yang dikeluarkan bulan ini kepada X Corp. dan xAI yang menuntut pengamanan yang lebih kuat, mendapat tanggapan yang sebagian besar bergantung pada mekanisme pelaporan pengguna.
“Pembatasan ini diberlakukan sebagai tindakan pencegahan dan proporsional sementara proses hukum dan peraturan sedang berlangsung. Akses akan tetap diblokir sampai pengamanan yang efektif diterapkan,” kata regulator Malaysia tersebut.
Grok gratis untuk digunakan di platform X diluncurkan pada 2023. Pengguna dapat mengajukan pertanyaan di platform media sosial dan menandai postingan yang mereka buat sendiri atau balasan untuk postingan dari pengguna lain.
Pada musim panas lalu perusahaan menambahkan fitur generator gambar, Grok Imagine, yang mencakup apa yang disebut “mode panas” (spicy mode) yang dapat menghasilkan konten dewasa.
Pembatasan di Asia Tenggara ini terjadi di tengah meningkatnya pengawasan terhadap Grok di tempat lain, termasuk di Uni Eropa, Inggris, India, dan Prancis.
Grok pekan lalu membatasi pembuatan dan pengeditan gambar hanya untuk pengguna berbayar setelah reaksi global atas deepfake yang berbau seksual, tetapi para kritikus mengatakan hal itu tidak sepenuhnya mengatasi masalah tersebut. (rus)