UN Women: Regulasi AI Harus Menjangkau Data, Pengembangan, hingga Penerapan untuk Cegah Bias Gender

UN Women menegaskan pentingnya regulasi yang mengatur teknologi kecerdasan buatan atau artificial intelligence  (AI) tidak hanya pada tahap penerapan (deployment), tetapi juga sejak tahap pengembangan (development) dan pengumpulan data sumber (source).

Pasalnya, hal ini dinilai krusial untuk mencegah bias gender yang dapat memperkuat ketidaksetaraan di dunia digital.

Head of Programmes UN Women Indonesia, Dwi Yuliawati, mengungkapkan bahwa bias gender dalam AI sudah terlihat dari fenomena voice assistant populer seperti Alexa dan Siri yang mayoritas menggunakan suara perempuan.

"Sebenarnya kita harus sepakat dulu nih bahwa memang AI atau perkembangan digital itu adalah mereplikasi ketidaksetaraan. Jadi dia tidak bekerja di sebuah sistem, tiba-tiba semua jadi setara itu gak bisa. Jadi AI itu mereplikasi," ujar Dwi di Jakarta, Rabu (13/8/2025).

Baca Juga: OJK Dorong Peningkatan Literasi Keuangan bagi Perempuan dan UMKM sebagai Segmen Prioritas SNLKI 2021–2025

Menurutnya, bias gender muncul di tiga level. Pertama, pada sumber data (source) yang sudah bias sejak awal, di mana perempuan masih under-represented. Kedua, pada tahap pengembangan (development) yang dikerjakan oleh mayoritas laki-laki, sehingga bias terbawa. Ketiga, pada tahap penerapan (deployment) yang didominasi pengguna laki-laki dengan perspektif tradisional bahwa perempuan berperan sebagai pendukung.

"Kalau ditanya apakah perlu regulasi? Saya pikir regulasinya tidak hanya di-deployment. Tapi mulai dari development-nya. Sambil kita juga mengusahakan supaya world-nya, the universe di mana AI itu mengambil semua source data, itu juga harus adil," tegas Dwi.

Ia menambahkan, regulasi perlu bersifat broad-based dan selaras dengan upaya menciptakan kesetaraan di dunia nyata.

Baca Juga: Paus Leo Peringatkan Dampak Kecerdasan Buatan terhadap Generasi Muda

Meski begitu, Dwi menilai ada pengecualian jika tujuan penggunaan AI memang membutuhkan pendekatan gender tertentu, seperti layanan korban kekerasan berbasis gender di Asia Selatan yang memakai chatbot dengan suara perempuan untuk menciptakan rasa aman.

"But do not just focus on the deployment. Development dan juga proses-proses sebelumnya itu harus ada dulu," pungkasnya.