Di awal abad ke-21, banyak orang percaya bahwa teknologi digital seperti AI dan algoritma itu netral, objektif, dan bebas dari kesalahan manusia. Algoritma dianggap sebagai “hakim yang adil” yang bisa mengambil keputusan tanpa emosi atau prasangka. Tapi sekarang, saat AI sudah dipakai di banyak bidang penting seperti rekrutmen kerja, iklan, hukum, dan asisten virtual sehari-hari, kita mulai melihat kenyataan yang berbeda. Teknologi tidak diciptakan di ruang kosong. Kenyataannya, algoritma seringkali malah memperkuat ketidaksetaraan yang sudah ada di masyarakat, termasuk bias gender. Di balik kode yang tampak netral, sebenarnya tersimpan data masa lalu yang timpang dan sudut pandang pembuatnya yang seragam. Esai ini akan membahas bagaimana bias gender bisa masuk ke dalam sistem digital, melihat contoh-contoh nyata di dunia teknologi, dan mengapa kita perlu mengungkap algoritma demi masa depan digital yang lebih adil.
Akar Masalah: Kenapa Algoritma Bisa Berprasangka Gender?
Untuk memahami mengapa sistem komputer bisa diskriminatif terhadap gender tertentu, kita perlu mengingat prinsip dasar: “Sampah masuk, sampah keluar.” Dalam pembelajaran mesin, ini jadi “Bias masuk, bias keluar.” Algoritma tidak punya kesadaran moral sendiri. Dia belajar dari data masa lalu yang diberikan manusia (Mehrabi et al., 2022).
Masalahnya, data sejarah manusia penuh dengan ketimpangan gender dan budaya patriarki (Ntoutsi et al., 2020). Jika algoritma dibor dengan data itu tanpa koreksi etis, dia akan menganggap ketimpangan itu sebagai kebenaran mutlak. Akibatnya, AI tidak hanya memprediksi masa depan berdasarkan masa lalu, tapi malah mengunci kita dalam bias masa lalu (Universitas, 2025).
Hal ini semakin parah karena industri teknologi global masih didominasi laki-laki. Akibatnya, perspektif gender sering terlewatkan sejak awal pembuatan sistem (West et al., 2019).
Contoh Nyata Bias Gender di Dunia
Bias algoritmik ini bukan cuma teori. Ada bukti nyata di lapangan:
Diskriminasi di Rekrutmen Otomatis (Kasus Amazon)
Amazon pernah membuat software AI untuk menyaring CV pelamar kerja. Sistem ini dibor pakai data rekrutmen Amazon selama 10 tahun (Jefrey, 2018). Karena industri teknologi dulu didominasi laki-laki, sebagian besar CV yang sukses adalah milik pria.
Algoritma lalu menyimpulkan bahwa pelamar pria lebih baik. Akibatnya, sistem otomatis memberi nilai jelek pada CV yang mengandung kata-kata seperti “kapten klub catur wanita” atau lulusan universitas perempuan. Amazon akhirnya menghentikan proyek ini, tapi kasus ini menjadi bukti nyata bahwa AI bisa melanggengkan dominasi gender.
Bias Iklan Lowongan Kerja (Kasus Facebook)
Pada awal tahun 2025, Badan HAM Eropa memutuskan bahwa Meta (Facebook) bersalah karena bias gender dalam iklan lowongan kerja (Andi Hidayat, 2025). Penelitian menunjukkan bahwa ketika perusahaan memasang iklan lowongan tanpa menentukan target gender, algoritma Facebook otomatis mengarahkan iklan mekanik atau sopir truk ke pria, sementara iklan pengasuh anak atau sekretaris ke wanita. Algoritma menilai efisiensi berdasarkan stereotip pasar kerja tradisional. Dampaknya, perempuan kehilangan akses ke pekerjaan bergaji tinggi karena sistem menganggap mereka tidak tertarik.
Asisten Virtual dan Stereotip Gender
Bias gender tidak hanya berbentuk diskriminasi ekonomi, tetapi juga pelestarian stereotip budaya melalui asisten virtual berbasis suara (voice Assistant) seperti Apple Siri, Amazon Alexa, dan Microsoft Cortana. Badan PBB untuk Pendidikan, Keilmuan, dan Kebudayaan (UNESCO) menerbitkan laporan monumental yang mengkritik keras mengapa asisten virtual ini secara default diprogram menggunakan suara perempuan (Uif & Pg, nd).
Lebih jauh lagi, laporan tersebut menyoroti kepatuhan (servility) yang diprogram ke dalam sistem ini. Ketika pengguna memberikan hinaan verbal yang bernada seksi bertanya, asisten virtual perempuan ini kerap merespons dengan jawaban yang genit, pasif, atau meminta maaf, seperti kalimat “I’d blush if I can” (Saya akan tersipu jika saya bisa) yang diucapkan Siri di masa lalu (Keith Darnay, 2019). Ini memberikan pesan subliminal berbahaya bahwa perempuan adalah entitas yang penurut dan toleran terhadap pemahaman.
Kegagalan Teknologi Pengenalan Wajah
Bias algoritma semakin parah ketika gender bertemu dengan ras. Penelitian “Gender Shades” oleh (Buolamwini & Gebru, 2018) menguji akurasi teknologi pengenalan wajah dari Microsoft, IBM, dan Face++. Hasilnya, teknologi ini hampir sempurna (99%) mengenali wajah pria kulit putih.
Tapi tingkat kesalahan melonjak hingga 34-37% saat mengenali wajah wanita kulit hitam (103-ID-Mengatasi-Bias-Gender-Dan-Ras-Dalam-AI-1.Pdf, nd). Hal ini karena data didominasi pelatihan wajah pria kulit putih. Di dunia nyata, bias ini bisa menyebabkan salah ditangkap oleh polisi terhadap perempuan kulit hitam atau minoritas.
Solusi: Membongkar Algoritma
Untuk mengatasi bias gender dalam algoritma, perlu pendekatan dari berbagai sisi:
103-ID-Mengatasi-Bias-Gender-dan-Ras-dalam-AI-1.pdf. (nd).
Andi Hidayat. (2025). Badan HAM Eropa Temukan Bias Gender di Algoritma Info Loker Facebook. Detik Keuangan. https://finance.detik.com/berita-ekonomi-bisnis/d-7803128/badan-ham-eropa-temukan-bias-gender-di-algoritma-info-loker-facebook
Buolamwini, J., & Gebru, T. (2018). Nuansa Gender: Disparitas Akurasi Titik-Titik dalam Klasifikasi Gender Komersial. Prosiding Penelitian Pembelajaran Mesin, 81, 77–91.
Jeffrey, D. (2018). Amazon menghapus alat perekrutan AI rahasia yang menunjukkan bias terhadap perempuan.
Reuters. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G
Keith Darnay. (2019). Laporan PBB: Bias gender dalam pengkodean asisten suara. Kxnet.Com. https://www.kxnet.com/news/un-report-gender-bias-in-voice-assistant-coding/
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2022). Survei tentang Bias dan Keadilan dalam Pembelajaran Mesin. ACM Computing Surveys, 54(6). https://doi.org/10.1145/3457607
Ntoutsi, E., Fafalios, P., Gadiraju, U., Iosifidis, V., Nejdl, W., Vidal, ME, Ruggieri, S., Turini, F., Papadopoulos, S., Krasanakis, E., Kompatsiaris, I., Kinder-Kurlanda, K., Wagner, C., Karimi, F., Fernandez, M., Alani, H., Berendt, B., Kruegel, T., Heinze, C., … Staab, S. (2020). Bias dalam sistem kecerdasan buatan berbasis data—Survei pendahuluan. Ulasan Interdisipliner Wiley: Penambangan Data dan Penemuan Pengetahuan, 10(3), 1–14. https://doi.org/10.1002/widm.1356
Uif, JUI, & Pg, T. (nd). I’d blush if I could: closing gender divides in digital skills through education. UNESCO Digital Library. 306.
University, B. (2025). Apa yang Dimaksud Bias pada Konsep AI. Binus @Bekasi Artikel Series. https://binus.ac.id/bekasi/2025/10/apa-yang-dimaksud-bias-pada-konsep-ai/
West, SM, Whittaker, M., & Crawford, K. (2019). Discriminating systems. In AI Now Institute (Issue April). https://ainowinstitute.org/wp-content/uploads/2023/04/discriminatingsystems.pdf%0Ahttps://ainowinstitute.org/discri minatingsystems.pdf