Grok Membuat Jutaan Gambar Deepfake Cabul Sebelum Fiturnya Dibatasi

Grok, chatbot kecerdasan buatan buatan perusahaan xAI milik Elon Musk, tengah menghadapi sorotan tajam di berbagai belahan dunia setelah diketahui dimanfaatkan untuk memanipulasi foto individu menjadi konten cabul. Skandal ini kini memasuki babak baru dengan terungkapnya angka sebenarnya terkait kerusakan yang ditimbulkan oleh teknologi deepfake tersebut.

Berdasarkan hasil investigasi dari Center for Countering Digital Hate (CCDH), sebuah organisasi nirlaba asal Inggris, Grok diperkirakan telah menghasilkan sekitar 3 juta gambar berkonten seksual selama rentang waktu 11 hari. Dari jumlah tersebut, sekitar 23.000 di antaranya melibatkan gambar-gambar yang menggambarkan anak-anak. Laporan ini dirilis pada Jumat, 23 Januari 2026, dan mengungkap fakta yang mengkhawatirkan terkait penyalahgunaan AI.

CCDH merilis temuan ini setelah melakukan analisis terhadap sampel acak yang berisi 20.000 gambar buatan Grok. Sampel tersebut diambil dari periode 29 Desember 2025 hingga 9 Januari 2026. Berdasarkan sampel tersebut, CCDH melakukan perhitungan eskalasi terhadap total 4,6 juta gambar yang berhasil dibuat oleh Grok dalam kurun waktu yang sama.

Organisasi ini memiliki kriteria spesifik dalam mendefinisikan gambar berunsur seksual. Kriteria tersebut mencakup penggambaran foto realistis seseorang dalam posisi atau situasi seksual, individu yang mengenakan pakaian dalam, baju renang, atau pakaian sejenis yang terbuka, serta gambar yang menampilkan cairan seksual.

Temuan tersebut mengungkapkan bahwa Grok sering kali memunculkan gambar orang-orang yang memakai bikini transparan atau bikini mikro. Salah satu kasus yang menjadi perhatian adalah ketika Grok memanipulasi gambar Wakil Perdana Menteri Swedia, Ebba Busch, sehingga terlihat mengenakan bikini dengan cairan putih di kepalanya.

Selain publik figur, teknologi ini juga disalahgunakan oleh pengguna untuk mengedit foto pribadi. CCDH menemukan adanya permintaan dari pengguna yang meminta Grok untuk mengubah foto selfie anak-anak agar tampak seperti sedang memakai bikini mikro. Bahkan, ada gambar lain yang menampilkan enam anak perempuan dengan bikini mikro hasil buatan AI tersebut.

Imran Ahmad, CEO CCDH, mengecam keras praktik ini dengan menyebutnya sebagai pelecehan berskala industri terhadap perempuan dan anak perempuan. Dalam wawancaranya dengan Mashable, Imran menyoroti perbedaan signifikan antara Grok dan alat pengeditan foto telanjang lainnya. Menurutnya, alat-alat sebelumnya tidak memiliki cakupan distribusi, kemudahan penggunaan, atau integrasi mendalam ke dalam platform media sosial raksasa seperti yang dilakukan Elon Musk dengan Grok di platform X.

Daftar tokoh publik yang menjadi korban manipulasi gambar oleh Grok cukup panjang. Mereka termasuk Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Christina Hendricks, Millie Bobby Brown, dan Wakil Presiden Amerika Serikat, Kamala Harris. Kebanyakan dari mereka adalah figur wanita terkenal yang gambarnya diedit menjadi tidak senonoh.

Menanggapi tekanan publik dan kritik yang mengalir deras, xAI akhirnya mengambil tindakan. Pada 9 Januari, mereka membatasi akses fitur pengeditan gambar Grok agar hanya bisa dinikmati oleh pengguna berbayar. Lima hari berselang, tepatnya pada 14 Januari, platform X (sebelumnya Twitter) memperketat aturan dengan memblokir fitur yang memungkinkan pelucutan digital (deepfake nude) terhadap foto orang sungguhan.

Meskipun demikian, kebijakan pembatasan ini tidak sepenuhnya efektif. Pembatasan tersebut sejauh ini hanya berlaku untuk Grok yang terintegrasi langsung dengan platform X. Sayangnya, aplikasi Grok yang tersedia secara terpisah di toko aplikasi Apple App Store dan Google Play Store masih tetap dapat digunakan untuk membuat konten cabul jika diminta oleh pengguna.

Kasus Grok menjadi bukti nyata bagaimana kemajuan teknologi AI bisa disalahgunakan untuk kejahatan siber yang merusak privasi dan martabat individu. Pengawasan ketat dan regulasi yang lebih tegas mungkin diperlukan untuk mencegah eskalasi penyalahgunaan serupa di masa depan.

Di tengah pesatnya perkembangan kecerdasan buatan, kita dihadapkan pada dilema etika yang kompleks. Penggunaan teknologi seperti Grok menunjukkan betapa mudahnya batas antara inovasi dan pelanggaran hak asasi manusia dilanggar tanpa pengawasan yang ketat. Setiap individu perlu lebih waspada terhadap keamanan data pribadi mereka di dunia digital.

Baca juga Info Gadget lainnya di Info Gadget terbaru