Perkembangan kecerdasan buatan (Artificial Intelligence/AI) telah membawa perubahan besar dalam berbagai aspek kehidupan manusia. AI digunakan dalam pendidikan, kesehatan, rekrutmen kerja, media sosial, hingga pelayanan publik. Teknologi ini sering dipersepsikan sebagai sesuatu yang netral karena bekerja berdasarkan data dan algoritma. Namun kenyataannya AI tidak sepenuhnya lepas dari nilai-nilai sosial yang berkembang dalam masyarakat.
Salah satu permasalahan yang semakin mendapat perhatian global adalah munculnya bias gender dalam sistem AI. Fenomena ini menunjukkan bahwa teknologi yang diciptakan manusia dapat diturunkan bahkan memperkuat ketimpangan gender yang telah lama ada. Bias gender dalam AI terjadi ketika sistem menghasilkan keputusan, rekomendasi, atau representasi yang lebih menguntungkan satu jenis kelamin dibandingkan yang lainnya. Masalah ini muncul karena data yang digunakan untuk melatih model AI sering kali mengandung stereotip sosial. Jika perempuan selama bertahun-tahun direpresentasikan sebagai sosok domestik dan laki-laki sebagai pemimpin atau pengambil keputusan, maka AI akan mempelajari pola tersebut sebagai sesuatu yang “normal”.
Kasus faktual dan aktual yang menunjukkan permasalahan ini dipublikasikan UNESCO pada tahun 2024. Penelitian UNESCO menemukan bahwa berbagai model bahasa besar (Large Language Models) cenderung mengasosiasikan perempuan dengan peran domestik seperti ibu rumah tangga, juru masak, atau pengasuh, sedangkan laki-laki lebih sering digambarkan sebagai pemimpin, pebisnis, dokter, atau insinyur. Bahkan, perempuan empat kali lebih sering ditempatkan pada pekerjaan domestik dibandingkan laki-laki dalam keluaran AI (UNESCO, 2024). Temuan tersebut menunjukkan bahwa AI bukan sekadar alat teknis, melainkan cermin dari struktur sosial yang belum setara.
Persoalan bias gender juga terlihat dalam praktik rekrutmen berbasis AI. Amazon pernah menghentikan penggunaan sistem penjelajahan otomatis setelah diketahui algoritma tersebut mendiskriminasi pelamar perempuan. Sistem belajar dari data konservasi sebelumnya yang didominasi laki-laki sehingga menganggap kandidat laki-laki lebih layak diterima. Kasus ini menjadi peringatan bahwa efisiensi teknologi tidak selalu sejalan dengan keadilan sosial.
Menurut pandangan saya, permasalahan utama bukan terletak pada keberadaan AI itu sendiri, melainkan pada cara manusia merancang, melatih, dan menggunakannya. Narasi bahwa teknologi bersifat objektif sering kali membuat masyarakat kurang kritis terhadap dampak sosial yang ditimbulkannya. Padahal, algoritma dibangun oleh manusia yang memiliki latar belakang budaya, nilai, serta pengalaman tertentu. Ketika kelompok perempuan masih kurang terwakili dalam industri teknologi, maka kebutuhan dan perspektif mereka berpotensi terabaikan dalam proses pengembangan sistem AI. Selain itu, bias gender dalam AI dapat menghasilkan konsekuensi yang serius.
Dalam dunia kerja, perempuan dapat kehilangan kesempatan karena dianggap kurang kompeten oleh sistem otomatis. Dalam bidang kesehatan, gejala penyakit perempuan yang berpotensi kurang terdeteksi apabila data pelatihan lebih banyak berasal dari laki-laki. Di ruang digital, AI juga dapat memperkuat kekerasan berbasis gender melalui penyebaran deepfake pornografi dan kebencian terhadap perempuan. UNESCO (2025) melaporkan bahwa perempuan dan anak perempuan semakin rentan mengalami pencerahan berani yang difasilitasi teknologi AI.
Berbagai penelitian terbaru menunjukkan bahwa bias gender dalam AI tidak hanya muncul pada tahap penggunaan teknologi, tetapi telah tertanam sejak proses pengembangannya. Amalia, Pitaloka, dan Apriliana (2025) menjelaskan bahwa diskriminasi gender dalam AI dapat muncul melalui berbagai mekanisme, mulai dari data pelatihan (training data), proses pelabelan data (labeling dan anotasi), desain algoritma, hingga kebijakan yang diterapkan oleh perusahaan pengembang teknologi.
Ketika data yang digunakan mencerminkan ketimpangan sosial masa lalu, sistem AI akan menghasilkan bahkan memperkuat pola diskriminasi tersebut. Misalnya, sistem penerjemah otomatis cenderung mengasosiasikan profesi seperti insinyur atau CEO dengan laki-laki, sedangkan profesi perawat atau pengasuh lebih sering dikaitkan dengan perempuan. Kondisi ini menunjukkan bahwa AI bukan sekedar persoalan teknis, melainkan juga persoalan sosial dan politik yang berkaitan dengan hubungan kekuasaan dalam masyarakat.
Amalia dkk. (2025) juga menegaskan bahwa bias gender dalam AI berpotensi melanggar hak-hak dasar perempuan, seperti hak atas kesetaraan dan non-diskriminasi, hak atas pekerjaan, hak atas kesehatan, hak atas privasi, serta hak atas representasi dan identitas. Penelitian tersebut menilai bahwa berbagai pedoman etika internasional seperti Rekomendasi UNESCO tentang Etika Kecerdasan Buatan dan Prinsip OECD AI masih bersifat soft law sehingga belum cukup kuat menjamin perlindungan terhadap perempuan. Oleh karena itu, diperlukan regulasi yang mengikat agar negara memiliki kewajiban yang jelas dalam memastikan tata kelola AI yang sensitif terhadap gender. Permasalahan ini semakin kompleks karena perempuan masih kurang terwakili dalam industri kecerdasan buatan. Shah (2025) menyebutkan bahwa hanya sekitar 22% tenaga kerja AI di dunia merupakan perempuan.
Rendahnya keterlibatan perempuan menyebabkan pengalaman, kebutuhan, serta perspektif mereka kurang terakomodasi dalam proses pengembangan teknologi. Akibatnya, AI lebih rentan dibangun berdasarkan sudut pandang yang homogen dan berpotensi mengabaikan kepentingan kelompok perempuan.
Shah (2025) juga menawarkan perspektif penting mengenai literasi digital sebagai strategi pemberdayaan perempuan dalam menghadapi era AI. Literasi digital tidak hanya dipahami sebagai kemampuan menggunakan teknologi, tetapi juga kemampuan berpikir kritis terhadap cara kerja algoritma, mengenali potensi bias, serta memahami dampak sosial dari teknologi yang digunakan. Program literasi digital yang responsif gender dapat mendorong lebih banyak perempuan terlibat dalam bidang AI, meningkatkan kesadaran terhadap diskriminasi algoritmik, sekaligus memperkuat posisi perempuan sebagai subjek aktif dalam transformasi digital.Untuk mengatasi permasalahan tersebut, diperlukan upaya yang melibatkan berbagai pihak.
Pertama, perusahaan teknologi harus menerapkan prinsip etika AI melalui algoritma audit secara berkala. Setiap sistem perlu diuji untuk memastikan tidak menghasilkan keputusan yang diskriminatif berdasarkan gender. Transparansi dalam penggunaan data juga harus menjadi standar utama.
Kedua, diperlukan keberagaman dalam tim pengembang teknologi. Kehadiran lebih banyak perempuan di bidang sains, teknologi, teknik, dan matematika (STEM) dapat memperkaya prospek dalam proses desain AI. Dengan demikian, kemungkinan bias kemunculannya dapat diminimalkan sejak tahap awal pengembangan.
Ketiga, pemerintah perlu menyusun regulasi yang mengatur akuntabilitas penggunaan AI. Regulasi tersebut harus menjamin perlindungan terhadap kelompok rentan dan memberikan mekanisme pengaduan apabila masyarakat dirugikan oleh keputusan algoritmik. Indonesia sendiri mulai menunjukkan perhatian terhadap tata kelola AI melalui berbagai diskusi mengenai regulasi teknologi digital, namun implementasinya masih memerlukan penguatan.
Keempat, masyarakat perlu meningkatkan literasi kritis digital. Pengguna tidak dapat menerima hasil AI secara mentah tanpa melihat bagaimana sistem tersebut bekerja. Kesadaran bahwa teknologi dapat mengandung bias merupakan langkah awal untuk mendorong penggunaan AI yang lebih bertanggung jawab.
Pada akhirnya, AI seharusnya menjadi sarana untuk memperluas kesempatan dan meningkatkan kualitas hidup manusia, bukan memperkuat ketidakadilan yang telah ada. Teknologi memang mampu bekerja dengan kecepatan tinggi, namun keadilan tidak dapat diserahkan sepenuhnya kepada mesin. Diperlukan komitmen etis dari pengembang, pemerintah, sejarawan, dan masyarakat agar transformasi digital berjalan seiring dengan penghormatan terhadap kesetaraan gender. Masa depan teknologi yang inklusif bukanlah sesuatu yang mustahil, selama manusia mengakui bahwa bias ada dan berupaya melakukan perbaikan secara bersama-sama.