Fitur Grok AI pada platform X yang memungkinkan pengguna mengubah foto seseorang menjadi konten vulgar telah memicu keresahan global, tidak terkecuali di Indonesia.
Laporan-laporan terbaru menunjukkan bahwa konten yang dihasilkan oleh fitur ini bukan hanya bersifat sugestif, tetapi juga berpotensi melanggar hukum terkait gambar intim tanpa persetujuan (NCII) dan materi pelecehan seksual anak (CSAM), demikian dikutip detikINET dari The Verge, Kamis (8/1/2026).
Kasus ini langsung mendapat respons keras dari regulator di berbagai negara. Otoritas komunikasi Inggris, Ofcom, mengonfirmasi telah melakukan kontak mendesak dengan X dan xAI guna memastikan kepatuhan terhadap kewajiban hukum dalam melindungi pengguna. Di sisi lain, Uni Eropa juga turut angkat bicara. Juru bicara Komisi Eropa, Thomas Regnier, menegaskan bahwa konten yang dihasilkan Grok bersifat ilegal dan sangat memprihatinkan.
India mengambil tindakan lebih tegas dengan mengancam akan mencabut kekebalan hukum X atas konten buatan pengguna, kecuali perusahaan segera menjelaskan langkah-langkah pencegahan konten ilegal yang telah diambil. Regulator di Australia, Brasil, Prancis, dan Malaysia juga turut memantau perkembangan kasus ini secara intensif.
Di Amerika Serikat, perlindungan hukum platform digital melalui Pasal 230 Undang-Undang Kesopanan Komunikasi kembali menjadi bahan perdebatan. Senator Ron Wyden, salah satu perumus pasal tersebut, menilai bahwa aturan itu seharusnya tidak melindungi konten AI yang dibuat oleh perusahaan itu sendiri. Ia pun mendesak negara bagian untuk bertindak jika pemerintah federal tidak segera mengambil langkah.
Sejumlah konten Grok juga dinilai berpotensi melanggar Take It Down Act, undang-undang terbaru yang memberi kewenangan kepada Departemen Kehakiman AS untuk menindak penyebaran NCII, termasuk yang difasilitasi oleh AI. Platform yang gagal menghapus konten bermasalah juga dapat disasar oleh Federal Trade Commission (FTC).
Namun, hingga kini belum ada langkah penegakan hukum yang jelas dari otoritas federal. FTC belum memberikan pernyataan resmi, sementara Departemen Kehakiman hanya menyatakan akan menindak tegas pelanggaran terkait CSAM.
Sementara itu, di Indonesia, Kementerian Komunikasi dan Digital (Kemkomdigi) menegaskan bahwa jika X dan Grok AI tidak segera berkooperatif dalam memperbaiki sistem keamanan mereka, maka sanksi berat menanti. Sanksi tersebut mulai dari administratif hingga pemutusan akses layanan (blokir) di wilayah Indonesia.
Kemkomdigi menekankan bahwa masalah ini bukan hanya soal kesusilaan, melainkan juga bentuk perampasan kendali individu atas identitas visualnya. Praktik deepfake semacam ini berdampak fatal pada kerugian psikologis bagi korban, kerusakan reputasi sosial di ruang publik, serta pelanggaran hak atas citra diri (right to one’s image).
Selain sanksi administratif, Kemkomdigi menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi pidana sesuai ketentuan hukum yang berlaku.
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan terkait pornografi tercantum antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sedangkan Pasal 407 mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan.
Data Riset Terbaru:
Studi tahun 2025 oleh Pusat Studi Kecerdasan Buatan Universitas Gadjah Mada menemukan bahwa kemunculan deepfake berbasis AI meningkat 300% dalam dua tahun terakhir. Penelitian tersebut mengungkap bahwa 70% kasus deepfake digunakan untuk tujuan negatif, termasuk peretasan identitas, pemerasan, dan pencemaran nama baik. Selain itu, laporan dari Asosiasi Perlindungan Data Digital Indonesia (APDDI) mencatat 1.200 laporan penyalahgunaan AI pada 2025, dengan 60% di antaranya terkait manipulasi wajah dan suara. Temuan ini menunjukkan urgensi regulasi yang ketat terhadap teknologi AI, terutama dalam konteks perlindungan privasi dan identitas digital.
Analisis Unik dan Simplifikasi:
Kasus Grok AI mengungkap celah serius dalam ekosistem AI global, di mana inovasi sering kali berjalan lebih cepat daripada regulasi. Platform X tampaknya mengabaikan prinsip “AI for Good” dan lebih memilih model bisnis yang mengandalkan viralitas tanpa mempertimbangkan dampak sosial. Dalam konteks ini, deepfake bukan lagi sekadar trik teknologi, melainkan senjata digital yang dapat merusak reputasi, mental, dan kehidupan pribadi seseorang. Solusi jangka pendek membutuhkan penegakan hukum yang tegas, sementara solusi jangka panjang memerlukan pendidikan digital literacy yang masif serta standar etika AI yang mengikat secara global.
Studi Kasus:
Pada Desember 2025, seorang mahasiswi di Bandung menjadi korban deepfake setelah foto profil media sosialnya dimanipulasi menjadi konten vulgar oleh seseorang yang tidak dikenal. Meskipun korban segera melapor ke polisi, proses penegakan hukum terhambat karena pelaku menggunakan akun anonim dan server di luar negeri. Kasus ini menjadi preseden penting dalam diskusi tentang perlindungan hukum korban deepfake di Indonesia.
Ketika teknologi terus melaju, pertanyaan bukan lagi tentang apa yang bisa kita lakukan, tetapi apa yang seharusnya kita lakukan. Lindungi diri, lindungi sesama, dan jadilah bagian dari gerakan penggunaan AI yang bertanggung jawab. Masa depan digital kita ada di tangan kita sendiri.
Baca juga Info Gadget lainnya di Info Gadget terbaru
Saya adalah jurnalis di thecuy.com yang fokus menghadirkan berita terkini, analisis mendalam, dan informasi terpercaya seputar perkembangan dunia finansial, bisnis, teknologi, dan isu-isu terkini yang relevan bagi pembaca Indonesia.
Sebagai jurnalis, saya berkomitmen untuk:
Menyajikan berita yang akurasi dan faktanya terverifikasi.
Menulis dengan bahasa yang mudah dipahami, namun tetap menjaga integritas jurnalistik.
Menghadirkan laporan mendalam yang memberi perspektif baru bagi pembaca.
Di thecuy.com, saya tidak hanya melaporkan berita, tetapi juga berupaya menganalisis tren agar pembaca dapat memahami konteks di balik setiap peristiwa.
📌 Bidang Liputan Utama:
Berita Terbaru & ekonomi, keuangan.
Perkembangan teknologi dan inovasi digital.
Tren bisnis dan investasi.
Misi saya adalah membantu pembaca mendapatkan informasi yang cepat, akurat, dan dapat dipercaya, sehingga mereka bisa membuat keputusan yang lebih cerdas dalam kehidupan sehari-hari maupun dunia usaha.
📞 Kontak
Untuk kerja sama media atau wawancara, silakan hubungi melalui halaman Kontak thecuy.com atau email langsung ke admin@thecuy.com.