Algoritma AI Kurang Akurat Kenali Objek di Negara Berkembang, Ini Penyebabnya

Algoritma pengenalan objek yang dijual oleh perusahaan teknologi, termasuk Google, Microsoft, dan Amazon, berkinerja lebih buruk ketika diminta untuk mengidentifikasi item dari negara-negara berpenghasilan rendah. Temuan ini dilakukan oleh laboratorium artificial intelligence (AI) milik Facebook, yang menunjukkan adanya bias di mana pengenalan objek lewat AI menimbulkan ketidaksetaraan antarnegara.

Dalam penelitian bertajuk "Import AI 150: Training a Kiss Detector; Bias in AI, Rich vs Poor Edition; and Just How Good is Deep Learning Surveillance Getting?", para peneliti menguji lima algoritma pengenalan objek yang populer?Microsoft Azure, Clarifai, Google Cloud Vision, Amazon Recognition, dan IBM Watson?untuk melihat seberapa baik masing-masing algoritma ini mengidentifikasi barang-barang rumah tangga yang dikumpulkan dari dataset global.

Baca Juga: Canggih! China Gunakan Algoritma untuk Bikin Kamera Beresolusi Tinggi

Dataset yang digunakan mencakup 117 kategori (dari sepatu, sabun hingga sofa) dan beragam pendapatan rumah tangga dan lokasi geografis (dari satu keluarga di Burundi yang menghasilkan US$27 per bulan hingga satu keluarga di Ukraina dengan penghasilan US$10.090 per bulan).

Para peneliti menemukan, algoritma pengenalan objek membuat kesalahan sekitar 10% lebih banyak ketika diminta untuk mengidentifikasi barang-barang rumah tangga dengan pendapatan per bulan US$50 dibandingkan dengan yang berasal dari rumah tangga berpenghasilan lebih dari US$3.500 per bulan.

Secara umum, algoritme 15 hingga 20% lebih baik dalam mengidentifikasi barang-barang dari AS dibandingkan dengan barang-barang dari Somalia dan Burkina Faso misalnya.

Bias semacam ini merupakan masalah yang dikenal luas dalam AI dan disebabkan oleh beberapa hal. Salah satu yang paling umum, data pelatihan yang digunakan untuk membuat algoritma seringkali mencerminkan kehidupan dan latar belakang para insinyurnya. Mereka umumnya orang berkulit putih dari negara-negara berpenghasilan tinggi, demikian pula dunia yang mereka ajarkan untuk diidentifikasi.

Salah satu contoh bias AI yang paling terkenal adalah dengan algoritme pengenalan wajah, yang secara teratur berperforma lebih buruk saat mengidentifikasi wajah-wajah wanita, khususnya yang memiliki kulit berwarna. Bias ini terjadi di semua jenis sistem, mulai dari algoritma yang dirancang untuk menghitung pembebasan bersyarat hingga mereka yang menilai CV Anda sebelum wawancara kerja yang akan datang.

Dalam kasus algoritma pengenalan objek, penulis studi ini mengatakan bahwa ada beberapa kemungkinan penyebab kesalahan: pertama, data pelatihan yang digunakan untuk membuat sistem dibatasi secara geografis, dan kedua, mereka gagal mengenali perbedaan budaya.

Data pelatihan untuk algoritme penglihatan, tulis para penulis, diambil sebagian besar dari Eropa dan Amerika Utara dan sangat meremehkan pemandangan visual dalam berbagai wilayah geografis dengan populasi besar, khususnya di Afrika, India, China, dan Asia Timur.

Baca Juga: Pasar Industri Kecerdasan Buatan China Tembus US$3,5 Miliar

Demikian pula sebagian besar dataset gambar menggunakan kata benda dalam bahasa Inggris sebagai titik awal, yang berarti seluruh kategori item lain yang berbeda bahasa hilang. Para penulis memberikan contoh sabun cuci piring, yang merupakan sebatang sabun di beberapa negara dan wadah cairan di negara lain, dan pernikahan, yang terlihat sangat berbeda di AS dan India.

Namun, bisa jadi ini hanya seperti fenomena gunung es. Algoritma relatif mudah dievaluasi untuk bias semacam ini. Silicon Valley misalnya, sering mempromosikan produknya dan dalam beberapa tahun terakhir, menunjukan produk AI-nya dapat diakses oleh semua kalangan. Studi seperti ini menunjukkan bahwa perusahaan teknologi terus mengevaluasi, mendefinisikan, dan membentuk dunia dalam citra mereka sendiri.