TikTok hingga OnlyFans, Koalisi Digital Mulai Perangi Konten Pelecehan Anak Buatan AI!

Sebuah koalisi yang terdiri dari platform media sosial utama, pengembang kecerdasan buatan (AI), pemerintah, dan lembaga swadaya masyarakat (LSM) telah mengeluarkan pernyataan bersama yang berjanji untuk memerangi konten pelecehan yang dihasilkan oleh AI. 

Dilansir dari laman Cointelegraph pada Rabu (1/11/2023), Inggris mengeluarkan pernyataan kebijakan tersebut pada 30 Oktober lalu, yang mencakup 27 penandatangan, termasuk pemerintah Amerika Serikat (AS), Australia, Korea, Jerman, dan Italia, serta platform media sosial Snapchat, TikTok, dan OnlyFans.

Baca Juga: Kebut Ekosistem Digital, Sekjen Kominfo Dorong Perempuan Kuasai STEM

Pernyataan tersebut juga ditandatangani oleh platform AI Stability AI dan Ontocord.AI serta sejumlah LSM yang bekerja untuk keamanan internet dan hak-hak anak.

Pernyataan tersebut mengatakan bahwa meskipun AI menawarkan "peluang yang sangat besar" dalam mengatasi ancaman pelecehan seksual anak secara daring (online), AI juga dapat digunakan predator untuk menghasilkan jenis materi seperti itu.

Pernyataan tersebut mengungkapkan data dari Internet Watch Foundation bahwa dalam waktu satu bulan dari 11.108 gambar yang dihasilkan oleh AI yang dibagikan di forum web gelap atau dark web, 2.978 di antaranya menggambarkan konten yang berkaitan dengan pelecehan seksual anak.

Pemerintah Inggris mengatakan bahwa pernyataan tersebut merupakan janji untuk "berusaha memahami dan, jika perlu, menindaklanjuti risiko yang muncul dari AI untuk mengatasi pelecehan seksual anak melalui forum yang ada."

Baca Juga: Berpikir Kritis dan Mampu Memanfaatkan Media Digital untuk Berkolaborasi, Bagian dari Pentingnya Kecakapan Digital

"Semua pihak memiliki peran dalam memastikan keselamatan anak-anak dari risiko AI,” ujar Pemerintah Inggris dalam pernyataannya yang dilansir pada Rabu (1/11/2023). 

Konferensi tersebut mendorong transparansi mengenai rencana untuk mengukur, memantau, dan mengelola cara-cara AI dapat dieksploitasi oleh pelaku kejahatan seksual terhadap anak, serta di tingkat negara untuk membangun kebijakan yang berkaitan dengan topik tersebut.

Baca Juga: Pertumbuhan Bisnis Digital Positif, Kinerja Bank Raya Makin Kinclong

Selain itu, pernyataan tersebut bertujuan untuk mempertahankan dialog seputar pemberantasan pelecehan seksual terhadap anak di era AI. Pernyataan tersebut dirilis menjelang Inggris menjadi tuan rumah konferensi tingkat tinggi global tentang keamanan AI minggu ini.

Kekhawatiran akan keselamatan anak dalam kaitannya dengan AI telah menjadi topik diskusi utama dalam menghadapi kemunculan dan penggunaan teknologi yang cepat dan meluas.

Baca Juga: Volume Transaksi QRIS Tumbuh Pesat, BRI Edukasi Transaksi Digital UMKM Di Pasar Hamadi Papua

Pada 26 Oktober, 34 negara bagian di Amerika Serikat mengajukan gugatan hukum terhadap Meta, perusahaan induk Facebook dan Instagram, terkait masalah keamanan anak.