KETIK, MALANG – Tim peneliti mahasiswa Universitas Brawijaya (UB) mengungkap celah-celah pelecehan seksual yang kerap terjadi di media sosial, salah satunya platform X. Di sana banyak pengguna yang memanfaatkan AI Generatif sebagai modus untuk objektifikasi tubuh secara non konsensual.
Fenomena Technology-Facilitated Sexual Violence (TFSV) ini memanfaatkan celah tidak adanya filter etika dalam chatbot generatif, seperti Grok yang ada di platform X. Fairuz Mumtazah, anggota tim dari Program Studi Sosiologi menjelaskan eksploitasi ini sering dibungkus atas nama humor teknologi.
“Di balik keseruan publik berinteraksi dengan AI generatif, terdapat krisis etika ketika oknum mendelegasikan perintah spesifik untuk memproduksi narasi pelecehan seksual secara terbuka. Integrasi fitur interaktif AI dengan basis data real-time yang tanpa filter telah membuka celah eksploitasi secara sistematis dan masif,” ujarnya, Jumat 4 September 2026.
Ketua Tim Peneliti, Wahyu Najwal Iqbal menambahkan dari hasil riset tersebut merumuskan policy brief berjudul 'SAFE AI: Intervensi Kebijakan Moderasi Platform Interaktif Guna Mencegah Objektifikasi Seksual Generatif di Ruang Digital'. Policy brief tersebut akan diserahkan kepada Kementerian Komunikasi dan Digital (Komdigi) sekaligus untuk mengembangkan teknologi global.
“Sebagai langkah nyata menyelamatkan ekosistem siber nasional, riset ini menghasilkan Policy Brief berperspektif gender serta video edukasi interaktif Curated Visual Storytelling,” ujarnya.
Tim juga memastikan agar riset tersebut tetap mematuhi etika riset siber (KERIS-UB). Sinkronisasi kebijakan bahkan dilakukan dengan menggandeng beberapa instansi terkait agar memiliki ketepatan dalam penerapannya.
"Kami juga telah melakukan sinkronisasi kebijakan melalui diskusi kreatif bersama Balai Pelatihan Sumber Daya Manusia (BLSDM) Komdigi Surabaya agar rekomendasi ini benar-benal aplikatif," lanjutnya.
Tim melakukan observasi digital dengan menyaring 390 unit interaksi bersih hingga mencapai titik saturasi data. Hal tersebut dilakukan oleh Fajar Okta Ramadan, anggota tim dari Prodi Teknik Informatikan Filkom UB.
“Dari hasil observasi digital sistematis pada platform X, kami menyaring 390 unit interaksi bersih hingga mencapai titik saturasi data dengan tetap mematuhi etika riset siber KERIS-P melalui anonimisasi identitas," katanya.
Menggunakan skrip Python dan pemetaan Social Network Analysis via Gephi, ia mendapatkan data bahwa banyak interaksi yang terpusat pada sistem Grok AI. AI digunakan untuk mengurangi rasa bersalah atas tindakan pelecehan seksual yang direduksi sebagai candaan AI.
"Data membuktikan bahwa interaksi agresi terpusat pada sistem Grok AI sebagai penerima mention terbanyak. Kami juga menemukan klaster akun pelaku yang bertindak sebagai aktor jembatan atau penggerak utama dalam mengarahkan perintah pelecehan ke dalam sistem tersebut,” jelas Fajar. (*)
