Oleh: Nilla Fajariani
Di tengah pesatnya perkembangan teknologi di zaman ini, sebuah privasi bisa saja langsung dikonsumsi dengan cara yang terus berkembang tanpa tahu batasan menghargai. Kecerdasan buatan semakin mempermudah seseorang yang sedang membutuhkan dukungan, pun bisa jadi alat untuk menjatuhkan. Berita tentang penyalahgunaan aplikasi kecerdasan buatan, bernama “Grok AI” yang digunakan untuk memanipulasi foto seseorang menjadi konten seksual tanpa izin di Platform X (twitter) itu perlu didalami.
Kasus ini bukan hanya sebatas masalah teknologi, tetapi juga isu serius yang berkaitan dengan kekerasan terhadap perempuan dan anak. Banyaknya pemberitaan tersebut seharusnya membuat banyak orang mengerti bahwa kekerasan bisa saja datang dari hal yang saat ini biasa di nikmati, dan mulai mengenali adanya bentuk kekerasan baru yang muncul akibat kemajuan digital, meskipun dampaknya sering kali belum sepenuhnya dipahami.
Penyalahgunaan Artificial Intelligence ini menunjukkan bagaimana identitas dan tubuh individu dapat direnggut hanya melalui gambar. Dengan teknologi AI, wajah perempuan atau anak dapat ditempelkan ke tubuh telanjang secara mendetail, atau di telanjangi tanpa hati nurani, dengan hanya bermodalkan prompt perintah, lalu disebarluaskan seolah-olah itu adalah kenyataan. Meski hal tersebut terjadi di ruang digital, kekerasan ini nyata karena membuat seseorang kehilangan rasa aman, dan menyerang kesehatan mental.
Danielle Keats Citron dalam Hate Crimes in Cyberspace menjelaskan bahwa kekerasan digital dapat merusak martabat, rasa aman, dan kesehatan mental korban secara berkepanjangan. Dalam banyak kasus, seringkali korban yang mengalami kekerasan berbasis digital akan merasakan tekanan psikologis yang berat seperti kecemasan berlebih, rasa malu mendalam, gangguan tidur, hingga ketakutan untuk berinteraksi di ruang publik.
Trend yang menyakitkan dengan manipulasi foto
Banyaknya berita tentang penyalahgunaan Grok AI ini seharusnya menjadi momen penting untuk menyadari bahwa kekerasan digital bukanlah masalah yang sepele. Media melaporkan bahwa aplikasi ini sempat dibatasi dan terancam diblokir karena kemampuannya memproduksi gambar seksual tanpa izin. Namun, di balik statistik, kebijakan, dan perdebatan tentang teknologi, ada individu-individu yang mentalnya hancur akibat perusakan identitas mereka. Sayangnya, perhatian publik sering kali hanya tertuju pada sensasi teknologinya, bukan pada upaya pemulihan korban.
Kerusakan mental yang dialami korban sering menjadi efek yang paling sunyi namun paling menghancurkan. Korban tidak hanya harus berhadapan dengan penyebaran gambar palsu, tetapi juga stigma sosial yang menyertainya. Mereka merasa takut tidak akan dipercaya, takut dicap negatif, dan takut disalahkan. Sebagai akibatnya, banyak korban memilih untuk menjauh dari lingkungan sosial, menutup akun media sosial mereka, bahkan menyalahkan diri sendiri atas sesuatu yang tidak pernah mereka lakukan. Dalam konteks ini, teknologi telah menciptakan bentuk kekerasan yang tidak meninggalkan luka fisik, tetapi perlahan-lahan merusak kesehatan mental korban.
Budaya diam masih menjadi masalah utama dalam kasus kekerasan digital berbasis AI. Perempuan dan anak yang menjadi korban sering memilih untuk tidak bersuara karena tekanan sosial yang besar. Mereka khawatir jika berbicara justru akan memperburuk kondisi karena akan mungkin terkena komentar negatif, diragukan kebenarannya, atau dijadikan bahan gosip. Dalam kondisi ini, memilih untuk diam bukanlah keputusan yang bebas, melainkan upaya perlindungan diri yang muncul dari ketakutan. Namun, kebisuan ini secara tidak langsung memberi keleluasaan bagi pelaku untuk terus beraksi.
Dilansir dari laman hukumonline.com bahwa Menteri Komunikasi dan Digital Meutya Hafid menyatakan bahwa pemutusan akses sementara terhadap Grok AI ini merupakan bentuk perlindungan negara terhadap warga negara khususnya perempuan dan anak dari ancaman kekerasan gender berbasis online (KGBO).
Penyalahgunaan Grok AI juga menunjukkan bahwa ekosistem digital belum siap dalam melindungi kesehatan mental para korban. Regulasi teknologi sering kali tertinggal, sementara Platform digital belum sepenuhnya menyediakan cara perlindungan dan pemulihan psikologis. Akibatnya, para korban harus menghadapi dampak mental sendirian, tanpa dukungan yang memadai. Padahal, kekerasan digital seharusnya dipandang sebagai suatu kejahatan yang memerlukan penanganan serius, baik secara hukum maupun psikologis. Tanggapan pemilik Platform X sendiri Elon Musk tampaknya memprioritaskan kebebasan berpendapat. Setelah melalui banyak kontroversi, pemilik Platform akhirnya membatasi fitur pembuatan gambar AI Grok hanya untuk pelanggan berbayar (premium).
Dalam masalah semacam ini, penting untuk mendengarkan suara, tidak hanya suara korban, tetapi juga suara masyarakat. Mengemukakan pendapat berarti mengakui bahwa manipulasi digital adalah bentuk kekerasan yang nyata dan merusak mental. Mengeluarkan suara juga berarti mendorong media, pemerintah, dan pengembang teknologi untuk bertanggung jawab. Ketika korban berani berbicara, mereka tidak sedang mencari perhatian, melainkan berusaha menyelamatkan diri dan orang lain dari luka yang sama.
Pada akhirnya, banyaknya berita mengenai penyalahgunaan Grok AI tidak seharusnya dianggap sebagai fenomena sementara. Masalah ini perlu dipahami sebagai pengingat bahwa kemajuan teknologi yang tidak disertai empati dan moral dapat merusak kesehatan mental individu. Penelitian ini menekankan bahwa melawan kekerasan digital bukan hanya mengenai menonaktifkan aplikasi atau membatasi fungsi, tetapi juga tentang membangun lingkungan yang aman bagi korban untuk berbicara, sembuh, dan tidak lagi terdiam oleh rasa takut atau stigma sosial. Dan juga untuk mengamankan data diri individu dengan sebaik-baiknya sebelum menjadi korban.
Penulis adalah mahasiswa aktif ilmu komunikasi
Sumber Rujukan :
Hukumonline.com. AI Grok di Platform X Terancam Diblokir Komdigi. 10 Januari 2026.
Antaranews.com. Komdigi Putus Akses Grok Demi Lindungi Masyarakat. 10 Januari 2026.
Citron, Danielle Keats. Hate Crimes in Cyberspace. Harvard University Press, 2014.