Cloudera Ungkap Risiko Bias Gender dan Blind Spot di Balik Ambisi AI

Dorongan adopsi kecerdasan buatan (AI) di Indonesia semakin agresif. Perusahaan berlomba-lomba mengintegrasikan AI ke dalam operasional demi efisiensi dan pertumbuhan bisnis. Tapi di balik euforia itu, ada satu isu yang mulai mencuat dan sering luput dari perhatian, yakni bias gender dan ketimpangan dalam pengembangan AI itu sendiri.

Sherlie Karnidta, Country Manager Indonesia, Cloudera, dalam sebuah wawancara khusus  mengungkap sisi lain dari transformasi ini. Menurutnya, ini bukan sekadar soal teknologi atau investasi, tapi tentang siapa yang membangun AI dan bagaimana hal itu memengaruhi hasil akhirnya.

Dia mengatakan, seiring berkembangnya AI ke arah sistem yang lebih otonom, atau yang kini dikenal sebagai agentic AI, risiko bias justru ikut meningkat. 

“Seiring berkembangnya AI menjadi sistem yang lebih otonom dan agentic, tantangan dalam mengelola bias menjadi semakin kompleks karena kelemahan kecil dalam data, desain, atau pengawasan, dapat membesar begitu keputusan diambil dalam skala yang luas oleh AI,” kata Sherlie.  

Namun, Sherlie menekankan bahwa ini bukan alasan untuk menahan inovasi, melainkan dorongan untuk memperkuat fondasi, mulai dari tata kelola data hingga transparansi. Menurut Sherlie, salah satu hal yang paling krusial untuk dilakukan adalah meningkatkan keterlibatan perempuan dalam pengembangan AI. 

Saat ini, perempuan hanya mencakup sekitar 27% tenaga kerja teknologi di Indonesia. Bahkan di komunitas developer, jumlahnya jauh lebih kecil. Perempuan bahkan menghadapi risiko ‘paparan ganda’ dalam ekonomi AI, kurang terwakili dalam posisi pengembangan AI, tetapi terwakili dalam fungsi-fungsi yang paling rentan tersingkir gara-gara otomatisasi. 

Dampaknya tidak sekadar soal representasi. “Ketika tenaga kerja kurang beragam, bias tidak hanya muncul dalam dataset, tapi juga terlihat dalam hal prioritas masalah, definisi keberhasilan, dan edge-case apa yang diuji,” kata dia. 

Dengan kata lain, bias bukan hanya muncul di data, tapi juga di cara sistem dirancang sejak awal. Ini menjadi problem serius, terutama ketika AI digunakan untuk keputusan penting, dari keuangan hingga layanan publik.

Seiring fokus perusahaan-perusahaan di Indonesia yang berlomba-lomba mempercepat adopsi AI demi efisiensi bisnis, kerap muncul godaan untuk memprioritaskan kecepatan peluncuran dibandingkan membangun sistem yang inklusif. Padahal, menurut Cloudera, pendekatan ini justru kontraproduktif. Inklusivitas dan ROI terkait erat, AI yang etis dan AI yang ekonomis harus berjalan beriringan. 

Perusahaan yang menanamkan keberagaman ke dalam strategi AI mereka akan memiliki kemampuan lebih baik dalam mengantisipasi tantangan lebih awal, sehingga memberikan solusi yang berkinerja lebih tinggi bagi bisnis dan masyarakat. Inklusivitas kini harus diposisikan sebagai investasi strategis yang fundamental, bukan lagi sebuah nilai tambah (nice to have) maupun kompromi.

Indonesia memiliki ambisi strategis untuk mencetak 12 juta talenta digital pada tahun 2030. Untuk mencapai target masif ini, menurut Sherlie, mengoptimalkan partisipasi tenaga kerja perempuan adalah solusi paling logis. Dia juga mendorong kaum perempuan untuk mengejar pendidikan di bidang STEM, menghadirkan peluang-peluang mentorship, dan menciptakan tempat kerja yang inklusif di mana kaum perempuan bisa tumbuh dan berkembang. 

Namun, langkah ini membutuhkan intervensi terarah untuk mendobrak tantangan struktural yang masih mengakar, seperti stereotip gender, kurangnya kepercayaan diri, serta terbatasnya akses ke panutan (role model) di industri teknologi. 

Di era AI saat ini, kemampuan coding bukan lagi satu-satunya penentu. Justru skill yang lebih “manusiawi” mulai jadi pembeda. Makanya Sherlie mendorong para profesional perempuan untuk menguasai kemampuan berpikir kritis terhadap data, pemahaman bisnis, hingga emotional intelligence. Menurut dia, AI yang bertanggung jawab sangat bergantung pada konteks dan penilaian manusia, bukan hanya model. Kecerdasan emosional harus diakui sebagai kemampuan teknis inti, karena AI yang etis membutuhkan akuntabilitas dan pengambilan keputusan yang bijaksana.

Cloudera juga menyoroti bagaimana perspektif perempuan bisa mengubah arah pengembangan teknologi. Pendekatannya cenderung lebih holistik dan berorientasi pada pengguna, bukan sekadar efisiensi teknis. Di internal Cloudera sendiri, keberagaman ini dianggap sebagai kekuatan. Pendekatan yang mereka sebut sebagai cognitive diversity akan membantu mengurangi blind spot, meningkatkan kualitas keputusan, dan menghasilkan solusi yang lebih relevan. 

“Saya telah menyaksikan sendiri bagaimana perekrutan dan mentorship berbasis potensi dapat mengubah karier dan kehidupan. Di Cloudera, kami menambahkan sentuhan pribadi saat menyambut karyawan baru, menyelaraskan dengan pengalaman dan aspirasi mereka untuk mendorong pertumbuhan profesional dan pribadi,“ ucap Sherlie.

Di tengah kompleksitas ini, Sherlie menyampaikan satu pesan yang cukup sederhana, terutama untuk perempuan muda di Indonesia. Jangan menunggu sampai merasa “siap” karena momen tersebut mungkin tidak akan pernah datang. Mulai saja dulu. “Dunia AI sangat membutuhkan keragaman perspektif, dan dengan dukungan strategis yang tepat, perempuan memiliki peluang emas untuk memimpin dan membentuk bagaimana teknologi ini berdampak pada masa depan ekonomi dan masyarakat luas,” katanya.