MALANG (Lentera) - Artificial Intelligence (AI) atau kecerdasan buatan yang semestinya menjadi teknologi pendukung aktivitas digital justru dimanfaatkan untuk memfasilitasi pelecehan seksual di media sosial. Modus tersebut dibongkar lima mahasiswa Universitas Brawijaya (UB) melalui riset terhadap praktik Technology-Facilitated Sexual Violence (TFSV) di platform X.
"Di balik keseruan publik berinteraksi dengan AI generatif, terdapat krisis etika ketika oknum mendelegasikan perintah spesifik untuk memproduksi narasi pelecehan seksual secara terbuka. Integrasi fitur interaktif AI dengan basis data real-time yang tanpa filter telah membuka celah eksploitasi secara sistematis dan masif," ujar Anggota tim peneliti dari Program Studi Sosiologi UB, Fairuz Mumtazah, Kamis (3/9/2026).
Untuk menguji fenomena tersebut secara empiris, tim melakukan observasi digital secara sistematis terhadap aktivitas di platform X.
Anggota tim dari Program Studi Teknik Informatika FILKOM UB, Fajar Okta Ramadan, mengatakan tim menyaring sebanyak 390 unit interaksi hingga mencapai titik saturasi data. Dalam prosesnya, identitas pengguna dianonimkan untuk menjaga kepatuhan terhadap etika riset siber KERIS-P.
Data tersebut kemudian melalui tahap prapemrosesan menggunakan skrip Python dan pemetaan Social Network Analysis (SNA) dengan Gephi.
Hasil pemetaan menunjukkan interaksi agresi seksual yang diamati terpusat pada sistem Grok AI sebagai penerima mention terbanyak. Tim juga menemukan adanya klaster akun yang berperan sebagai aktor jembatan dalam mengarahkan perintah terkait pelecehan seksual ke dalam sistem AI.
"Dari hasil observasi digital sistematis pada platform X, kami menyaring 390 unit interaksi bersih hingga mencapai titik saturasi data dengan tetap mematuhi etika riset siber KERIS-P melalui anonimisasi identitas," jelas Fajar.
"Data membuktikan interaksi agresi terpusat pada sistem Grok AI sebagai penerima mention terbanyak. Kami juga menemukan klaster akun pelaku yang bertindak sebagai aktor jembatan atau penggerak utama dalam mengarahkan perintah pelecehan ke dalam sistem tersebut," sambungnya.
Selain melihat pola interaksi digital, tim juga menganalisis relasi kuasa dan wacana yang muncul dalam interaksi tersebut.
Anggota tim dari Program Studi Psikologi UB, Safinatun Naja Handayani, mengatakan validitas analisis kualitatif dilakukan melalui double coding independen. Hasilnya menghasilkan tingkat reliabilitas dengan nilai kappa sebesar 0,974.
Melalui Analisis Wacana Kritis (AWK), tim menemukan indikasi penggunaan AI sebagai sarana untuk mengaburkan rasa bersalah atas tindakan agresif yang dilakukan pengguna.
Menurut Safinatun, salah satu mekanisme yang ditemukan adalah moral disengagement melalui euphemistic labeling, yakni penggunaan istilah yang lebih lunak untuk membingkai tindakan agresif sebagai sesuatu yang tidak serius.
Ditambahkannya, agresi seksual tersebut dibungkus sebagai "candaan AI", sementara penggunaan bahasa dalam interaksi menunjukkan adanya proses reduksi subjek menjadi objek visual.
Riset tersebut tidak berhenti pada pemetaan persoalan. Tim mahasiswa UB juga merumuskan rekomendasi kebijakan melalui policy brief berjudul "SAFE AI: Intervensi Kebijakan Moderasi Platform Interaktif Guna Mencegah Objektifikasi Seksual Generatif di Ruang Digital".
Policy brief tersebut ditujukan kepada Kementerian Komunikasi dan Digital (Komdigi) serta pengembang teknologi global sebagai bahan rekomendasi untuk memperkuat moderasi konten pada platform interaktif berbasis AI.
Ketua tim peneliti dari Program Studi Ilmu Komunikasi FISIP UB, Wahyu Najwan Iqbal, mengatakan tim juga mengembangkan video edukasi interaktif dengan pendekatan Curated Visual Storytelling.
"Kami juga telah melakukan sinkronisasi kebijakan melalui diskusi kreatif bersama Balai Pelatihan Sumber Daya Manusia (BLSDM) Komdigi Surabaya agar rekomendasi ini benar-benar aplikatif," ujar Wahyu.
Penelitian tersebut turut melibatkan Rama Caesario Anugrah dari Program Studi Sosiologi UB yang bertugas memastikan kepatuhan terhadap etika riset siber KERIS-UB.
Sebagai informasi, riset tersebut dikembangkan melalui Program Kreativitas Mahasiswa Riset Sosial Humaniora (PKM-RSH) 2026 dengan bimbingan dosen Sosiologi UB, Ayu Kusumastuti, S.Sos., M.Sc., Ph.D. dan dosen Psikologi UB, Prof. Cleoputri Al Yusainy, S.Psi., M.Psi., Ph.D. (*)
Reporter: Santi Wahyu
Editor: Lutfiyu Handi
.jpg)
Post a comment