Oleh: Risma Alifia Khoirunnisa
Pemblokiran sementara layanan kecerdasan buatan (AI) Grok oleh pemerintah Indonesia memicu pembicaraan luas mengenai keamanan di ruang digital. Grok adalah chatbot AI milik perusahaan xAI yang terhubung dengan platform X (sebelumnya dikenal sebagai Twitter). Pemblokiran ini dilakukan setelah muncul kekhawatiran terkait kemampuannya menghasilkan konten visual berisi materi kekerasan serta kemampuan memanipulasi gambar menggunakan AI. Di balik keputusan teknis ini, tersembunyi pertanyaan lebih dalam, apakah ruang digital di Indonesia benar-benar aman bagi perempuan?
Grok adalah kecerdasan buatan generatif yang dapat menghasilkan gambar dan teks berdasarkan perintah pengguna. Meskipun inovatif, kemampuan ini menyebabkan penyalahgunaan yang signifikan, terutama dalam bentuk deepfake seksual non-konsensual yang berarti memasukkan wajah atau tubuh seseorang, biasanya perempuan, ke dalam konten secara eksplisit tanpa izin. Menurut Kementerian Komunikasi dan Digital (Komdigi) pemerintah Indonesia, pemblokiran Grok dilakukan untuk melindungi perempuan dan anak-anak yang rentan terhadap kekerasan digital.
Langkah ini menunjukkan bahwa teknologi AI kini tidak lagi dianggap netral. Jika digunakan dengan cara yang salah, ia bisa menjadi alat baru untuk kekerasan, dengan dampaknya sama berbahayanya dengan kekerasan di dunia nyata. Kekerasan berbasis gender secara online bukanlah hal yang baru di Indonesia. Komnas Perempuan serta berbagai organisasi lain sudah mencatat adanya peningkatan kasus seperti pelecehan daring, ancaman, doxing, penyebaran konten pribadi tanpa izin, hingga manipulasi gambar dengan bantuan AI.
Komnas Perempuan mencatat terdapat 1.791 kasus kekerasan berbasis gender dan seksual (KBGO) terjadi sepanjang tahun 2024, naik 48% dibandingkan tahun sebelumnya. Di sisi lain, Komisi Perlindungan Anak Indonesia (KPAI) mencatat ada 431 kasus eksploitasi anak selama periode 2021 hingga 2023. Kekerasan ini tidak hanya terjadi di layar, tetapi juga memengaruhi kehidupan korban secara langsung seperti menyebabkan trauma psikologis, merusak reputasi, hingga membatasi akses sosial dan ekonomi. Dalam konteks ini, pemblokiran Grok bisa diartikan sebagai respons negara terhadap ancaman nyata di dunia maya. Namun, pertanyaannya adalah: apakah pemblokiran itu saja sudah cukup?
Dari perspektif feminis, kasus Grok tidak bisa dianggap hanya sebagai soal teknologi atau aturan tentang konten. Kasus ini menunjukkan pola lama yang berubah bentuknya, tubuh perempuan kembali menjadi benda yang dimanfaatkan, kali ini dengan bantuan kecerdasan buatan. Teknologi yang dianggap netral justru bekerja dalam sistem sosial yang tidak seimbang, di mana perempuan lebih sering jadi korban, bukan pelaku yang mendapat manfaat. Kekerasan digital yang menggunakan AI menunjukkan bahwa sistem patriarki terus beradaptasi dengan kemajuan teknologi. Sebelumnya, kontrol atas tubuh perempuan terjadi melalui kekerasan fisik atau aturan sosial. Kini, kontrol itu muncul dalam bentuk manipulasi gambar, penyebaran visual, dan objektifikasi yang dipandu algoritma. Perempuan tidak hanya kehilangan privasi, tetapi juga kehilangan kendali atas identitas digital mereka sendiri.
Feminisme menekankan bahwa kekerasan digital bukan sekadar soal “penyalahgunaan individu”, melainkan bagian dari masalah yang lebih besar di tingkat struktur. Ketika budaya yang menganggap objektifikasi perempuan sebagai hal biasa bertemu dengan teknologi yang canggih tetapi tidak memiliki perspektif tentang keadilan antarjenis kelamin, kekerasan menjadi lebih mudah dihasilkan, disebarkan, dan diulangi. Pemblokiran Grok adalah langkah awal yang patut diapresiasi. Namun, perspektif feminis memberi tahu kita bahwa melindungi perempuan tidak hanya bergantung pada tindakan reaktif. Budaya kekerasan yang memungkinkan penggunaan teknologi ini tidak otomatis dihapus ketika platform diblokir.
Ruang Digital Aman adalah Hak, Bukan Previlege
Dari sudut pandang feminis, ruang digital yang aman bukanlah sesuatu yang harus diperjuangkan sendirian oleh perempuan melalui pesan seperti “bijak dalam menggunakan media sosial”. Pendekatan demikian justru memindahkan tanggung jawab dari pemerintah dan platform ke korban, sekaligus memperkuat kebiasaan menyalahkan korban.
Kasus Grok menjadi pengingat bahwa perkembangan teknologi harus berjalan seiring dengan keadilan gender. Jika tidak, inovasi hanya akan menghasilkan bentuk-bentuk baru dari kekerasan lama. Kedudukan aman dalam ruang digital bagi perempuan bukan hanya tuntutan moral, melainkan hak asasi yang harus dijamin oleh negara serta seluruh sistem teknologi.
Pemblokiran Grok memicu pembicaraan penting mengenai masa depan ruang digital di Indonesia. Apakah ruang ini akan menjadi tempat yang adil dan aman, atau justru jadi tempat baru untuk kekerasan berdasarkan gender? Jawabannya tergantung pada keberanian pemerintah, platform, dan masyarakat untuk mengakui bahwa kekerasan digital terhadap perempuan adalah bentuk kekerasan nyata, serta bahwa mengatasinya membutuhkan kebijakan, teknologi, dan perspektif yang mendukung keadilan gender.