PRAKTIK manipulasi konten seksual berupa foto dan video melalui fitur kecerdasan buatan semakin marak. Hal ini sebenarnya kemudian memicu keresahan publik.
Teknologi itu kemudian banyak disalahgunakan untuk menciptakan foto serta video seksual palsu secara instan dan masif. Ironisnya, kecanggihan tersebut justru memperparah objektifikasi dengan menempatkan perempuan sebagai korban utama eksploitasi visual.
Bahkan eksploitasi seksual anak di ruang digital kian mengkhawatirkan. Laporan 2024 mencatat Indonesia menempati peringkat ketiga dunia dengan 1.450.403 kasus.
Menempatkan Indonesia sebagai salah satu negara dengan jumlah kasus pornografi daring terbesar.
Reproduksi kekerasan
Kecanggihan fitur kecerdasan buatan bukan sekadar kemajuan teknologi, melainkan alat baru untuk melanggengkan kekerasan berbasis gender yang sistemik.
Ruang digital yang sering diglorifikasi sebagai ruang ‘kebebasan’ pada akhirnya menjadi medan baru bagi reproduksi kekerasan berbasis gender, termasuk kekerasan seksual yang menargetkan perempuan.
Ini bukan hanya melanggengkan kekerasan lama, tetapi juga menjadi ruang bentuk-bentuk kekerasan baru, seperti kekerasan berbasis gender online yang bersifat masif, anonim, dan cenderung sulit dihentikan.”
Ketidaknyamanan perempuan
Ruang digital kini bekerja seperti pisau bermata dua. Di satu sisi, media sosial membuka ruang bagi perempuan untuk tampil, bersuara, dan menghadirkan diri.
Terdapat sense of freedom bagi perempuan untuk leluasa membangun visibilitas dan menunjukkan agensi. Namun pada saat yang sama, eksistensi visual tersebut juga rentan dijadikan bahan baku kekerasan seksual digital.
“Di sini terlihat kontradiksi mendasar, perempuan didorong untuk hadir dan visible di ruang digital, tetapi visibilitas itu justru membuat tubuh dan citra mereka menjadi objek untuk dikontrol, dieksploitasi, dan diserang.” tegasnya.
Manipulasi konten
Terkait penggunaan kecerdasan buatan dengan manipulasi konten yang semakin marak, hal ini sebagai evolusi budaya mengintip. Ada relasi kuasa berbasis gender yang timpang.
Perempuan sejak dahulu diposisikan dengan logika male gaze atau sebagai objek tatapan, objek seksual, dan objek tontonan untuk kesenangan laki-laki. Praktik morphing tidak mengubah logika male gaze ini, ia memperhalus dan melanggengkannya dalam bentuk visual digital yang semakin rapi, realistis, dan invasif.
Tidak Netral
Teknologi dibangun dari data, desain, dan imajinasi sosial yang juga bias maskulin. Bahkan dalam praktik sehari-hari, AI assistant sering digenderisasi sebagai feminin, dengan nama, suara, dan karakter yang merepresentasikan kepatuhan dan pelayanan.
Hal ini menunjukkan bahwa logika teknologi itu sendiri telah lama mereproduksi posisi perempuan sebagai objek. Oleh karena itu, kekerasan visual digital seperti morphing tidak sekadar evolusi dari voyeurisme, tetapi kelanjutan dari problem struktural yang sama.
Solusi agar pengguna di media digital dapat membangun kesadaran kolektif. Masyarakat harus menyadari bahwa tindakan menyukai, mengomentari, atau membagikan konten manipulasi AI dapat menjadikan seseorang sebagai pelaku sekunder.
Konsekuensi etis
Masyarakat agar lebih kritis dan cerdas untuk tidak menyebarkan informasi palsu tersebut. Membangun kesadaran kolektif berarti menggeser posisi kita, dari penonton pasif menjadi bagian aktif dari solusi.
Kita perlu bersama-sama menjadi pengguna teknologi digital dan AI yang kritis, yang sadar bahwa setiap klik, like, dan share punya konsekuensi etis dan politis. (AGT/N-01)
