Kementerian Komunikasi dan Digital (Komdigi) saat ini masih mempertahankan pemblokiran sementara terhadap aplikasi kecerdasan buatan (AI) Grok. Ancaman pemblokiran permanen membayangi platform yang dapat diakses langsung melalui X (sebelumnya Twitter) milik Elon Musk ini, jika tidak segera memenuhi regulasi yang berlaku di Indonesia.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa “kemungkinan pemblokiran permanen itu bisa saja” apabila Grok gagal mematuhi aturan pemerintah. Namun, ia juga mengungkapkan bahwa perwakilan Grok telah berdialog dengan Komdigi, menyampaikan komitmen untuk mengikuti regulasi Indonesia. Sebagai langkah awal, Grok telah melakukan geoblocking, membatasi akses khusus untuk pengguna di Indonesia, sementara menunggu kepatuhan penuh.
Langkah tegas Komdigi ini dipicu oleh penyalahgunaan Grok AI yang viral di media sosial. Platform tersebut diduga digunakan untuk mengedit foto, khususnya kaum perempuan, menjadi konten yang tidak senonoh tanpa persetujuan. Insiden ini mencoreng integritas ruang digital dan memicu keresahan publik yang meluas.
Menteri Komdigi, Meutya Hafid, menyatakan bahwa pemerintah memandang praktik deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia (HAM), martabat, dan keamanan warga negara di ruang digital. Oleh karena itu, Komdigi mengambil tindakan pemblokiran sementara, merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 peraturan tersebut secara jelas mewajibkan setiap PSE untuk memastikan sistem elektronik yang dikelola tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik yang dilarang.
Sebelumnya, media sosial X dibanjiri oleh tangkapan layar yang menunjukkan bagaimana fitur AI Grok dimanfaatkan untuk mengubah foto perempuan dari kondisi berpakaian sopan menjadi seolah mengenakan pakaian minim, bahkan memposisikan mereka dalam situasi seksual, semuanya tanpa persetujuan. Sejak akhir Desember (diduga tahun lalu), insiden ini memicu protes global dari para korban dan regulator. Sebuah tinjauan oleh The New York Times memperkirakan bahwa dalam sembilan hari, Grok mengunggah lebih dari 4,4 juta gambar, dengan setidaknya 41% atau sekitar 1,8 juta di antaranya kemungkinan besar berisi gambar yang mengandung unsur seksual pada perempuan.
Kasus Grok AI ini tidak hanya menjadi perhatian di Indonesia, tetapi juga memicu reaksi serupa di tingkat global, termasuk investigasi dan pemblokiran di Malaysia dan India. Hal ini menggarisbawahi urgensi bagi platform teknologi untuk bertanggung jawab dan menghormati regulasi lokal serta etika digital. Komdigi sebelumnya juga telah meminta platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok. Kini, Komdigi menanti “kepastian kepatuhan dari Grok” untuk disampaikan kepada pemerintah, yang akan menentukan nasib platform AI milik Elon Musk ini di Indonesia.