TikTok hingga OnlyFans, Koalisi Digital Mulai Perangi Konten Pelecehan Anak Buatan AI!

Sebuah koalisi yang terdiri dari platform media sosial utama, pengembang kecerdasan buatan (AI), pemerintah, dan lembaga swadaya masyarakat (LSM) telah mengeluarkan pernyataan bersama yang berjanji untuk memerangi konten pelecehan yang dihasilkan oleh AI. 

Dilansir dari laman Cointelegraph pada Rabu (1/11/2023), Inggris mengeluarkan pernyataan kebijakan tersebut pada 30 Oktober lalu, yang mencakup 27 penandatangan, termasuk pemerintah Amerika Serikat (AS), Australia, Korea, Jerman, dan Italia, serta platform media sosial Snapchat, TikTok, dan OnlyFans.

Baca Juga: Kebut Ekosistem Digital, Sekjen Kominfo Dorong Perempuan Kuasai STEM

Pernyataan tersebut juga ditandatangani oleh platform AI Stability AI dan Ontocord.AI serta sejumlah LSM yang bekerja untuk keamanan internet dan hak-hak anak.

Pernyataan tersebut mengatakan bahwa meskipun AI menawarkan "peluang yang sangat besar" dalam mengatasi ancaman pelecehan seksual anak secara daring (online), AI juga dapat digunakan predator untuk menghasilkan jenis materi seperti itu.

Pernyataan tersebut mengungkapkan data dari Internet Watch Foundation bahwa dalam waktu satu bulan dari 11.108 gambar yang dihasilkan oleh AI yang dibagikan di forum web gelap atau dark web, 2.978 di antaranya menggambarkan konten yang berkaitan dengan pelecehan seksual anak.

Pemerintah Inggris mengatakan bahwa pernyataan tersebut merupakan janji untuk "berusaha memahami dan, jika perlu, menindaklanjuti risiko yang muncul dari AI untuk mengatasi pelecehan seksual anak melalui forum yang ada."

Baca Juga: Berpikir Kritis dan Mampu Memanfaatkan Media Digital untuk Berkolaborasi, Bagian dari Pentingnya Kecakapan Digital

"Semua pihak memiliki peran dalam memastikan keselamatan anak-anak dari risiko AI,” ujar Pemerintah Inggris dalam pernyataannya yang dilansir pada Rabu (1/11/2023).