Pakar: Uni Eropa Harus Larang AI terkait Credit Scoring dan Pemantauan Penduduk

Sejumlah pakar yang dibentuk Uni Eropa merekomendasikan agar UE melarang penggunaan AI untuk pengawasan dan credit scoring warga lantaran hal ini dinilai berpotensi mengumpulkan beragam data tentang warga, mulai dari catatan kriminal hingga perilaku di media sosial–dan kemudian bisa digunakan untuk membuat judgement atau penilaian integritas moral atau etika warga.

Rekomendasi tersebut merupakan bagian dari upaya berkelanjutan UE untuk mengukuhkan mereka sebagai apa yang disebut sebagai "AI etis". Awal tahun ini, UE mengeluarkan pedoman pertamanya terkait topik tersebut, yang menyatakan bahwa AI di UE harus dikerahkan secara terpercaya dan "human-sentris".

Baca Juga: Microsoft Mau Kaji Ulang Etika AI Perusahaan?

Para pakar merekomendasikan beberapa hal, termasuk mengidentifikasi bidang-bidang penelitian AI yang membutuhkan dana, mendorong UE memasukkan pelatihan AI ke sekolah dan universitas, dan menyarankan metode baru untuk memantau dampak AI. Namun, rekomendasi tersebut belum akan menjadi cetak biru untuk dijadikan undang-undang.

Kekhawatiran terkait credit scoring warga lewat AI menyusul laporan tentang sistem kredit sosial di China yang baru diberlakukan belum lama ini. Program ini sering disajikan sebagai alat dystopian yang akan memberikan Pemerintah China kendali besar atas perilaku warga negara, memungkinkan pemerintah memberi hukuman (seperti melarang seseorang bepergian dengan kereta api berkecepatan tinggi) sebagai respons terhadap pelanggaran ideologis (seperti mengkritik Partai Komunis di media sosial).

Baca Juga: Kurangi Pencurian, Walmart Gunakan Vision AI

Para pakar juga mencatat bahwa sistem pengawasan dan hukuman yang serupa sudah ada di Barat, tapi bukan diawasi oleh pemerintah, melainkan dijalankan oleh perusahaan swasta. Belum jelas bagaimana detail larangan UE terhadap credit scoring. Apakah SKSN mencakup kegiatan perusahaan asuransi, kreditor, atau platform media sosial misalnya.

Para pakar juga menyarankan bahwa warga tidak boleh "dikenakan pelacakan atau identifikasi pribadi, fisik atau mental yang tidak dapat dibenarkan" menggunakan AI. Misalnya, menggunakan AI untuk mengidentifikasi emosi dalam suara seseorang atau melacak ekspresi wajah mereka. Meski sebenarnya metode ini sudah digunakan perusahaan untuk memantau produktivitas karyawan mereka.