Jakarta, Gesuri.id - Anggota Komisi I DPR RI, Sarifah Ainun Jariyah, mengatakan dunia maya kembali diguncang oleh kemajuan teknologi yang berbalik menjadi senjata.
"Grok AI, yang terintegrasi dengan salah satu medsos, kini menjadi pusat kontroversi global setelah disalahgunakan untuk memanipulasi foto perempuan menjadi gambar bernuansa vulgar," ujarnya, Senin (12/1).
Menurut Sarifah, awal mula kontroversi ini terungkap ketika seorang musisi asal Brasil, Julie Yukari, mengunggah foto dirinya yang diedit oleh Al tersebut, hanya beberapa menit setelah di-posting pada sebuah medsos.
Tren ini menyebar dengan cepat, termasuk ke Indonesia, dimana foto artis seperti member JKT48 menjadi target utama. Di Indonesia, isu ini menjadi semakin panas dengan keterlibatan artis lokal.
Imbas maraknya penyalahgunaan Al tersebut, member JKT48 seperti Freya Jayawardana menyuarakan keresahannya, serta musisi seperti Bernadya juga ikut mengkritik pengguna Al itu.
Sarifah juga menjabarkan bagaimana bentuk dan dampak penyalahgunaan fitur AI:
Pertama, pelanggaran privasi & consent, dimana foto orang diedit jadi seksual tanpa izin, sehingga membuat korban trauma, merasa direndahkan, dan takut post foto lagi.
Kedua, kekerasan berbasis gender online (KBGO), dimana 98-99% korban adalah perempuan, termasuk artis, jurnalis, dan anak-anak.
Ketiga, dampak global dimana banyak kasus melibatkan anak (misalnya foto gadis 12-14 tahun diedit deepfake), picu investigasi dari pemerintah EU, UK (Ofcom), Australia, India, Malaysia, Prancis, dll.
Kurangnya regulasi global jadi tantangan utama?
Menurut Sarifah, tantangan utama dari praktik tercela ini adalah kurangnya regulasi global terhadap AI, dimana perusahaan Al sering kali mengutamakan inovasi ketimbang keamanan.
"Hal tersebut menjadi pengingat bahwa meski AI revolusioner, bisa menjadi pedang bermata dua," ungkapnya.
Untuk itu, masyarakat diimbau untuk tidak membagikan foto pribadi secara sembarangan agar terhindar dari penyalahgunaan AI.
Sarifah Ainun Jariyah tentunya mengecam keras tindak penyalahgunaan AI itu.
"Sebagai seorang perempuan dan seorang ibu, tren yang belakangan ini ramai di media sosial ini jelas sangat disayangkan. Bayangkan, foto-foto perempuan yang sedang bekerja keras, berkarya, atau sekadar berbagi momen bahagia, diubah secara paksa dan keji menjadi konten asusila," ujarnya, Senin.
"Saya berdiri di sini tidak hanya sebagai wakil rakyat, tetapi sebagai sesama perempuan yang merasakan kemarahan kalian. Kita tidak boleh menoleransi satu inci pun tindakan yang merendahkan martabat perempuan demi kepuasan nafsu oknum yang pengecut di balik layar," sambungnya.
Untuk itu, ia menambahkan pemerintah Indonesia harus segera memastikan teknologi Al digunakan secara bertanggung jawab, dan memberikan sanksi tegas bagi penyalahgunaan dengan perlindungan hukum yang lebih cepat.
"Perempuan Indonesia harus dilindungi dari ancaman digital ini, jangan sampai inovasi teknologi justru menjadi alat pelecehan!," pungkasnya.
