Kaspersky Amati Peluang dan Risiko Chatbot AI untuk Anak dan Remaja

Analis konten web di Kaspersky, Noura Afaneh mengamati bahwa kecerdasan buatan (AI) telah menjadi bagian integral dalam kehidupan manusia. Semua orang mencobanya, bahkan chatbot AI yang dicoba anak-anak dan remaja. Selain bermanfaat, namun Afaneh juga mengamati bahwa alat ini justru tidak menyediakan verifikasi usia, alat plagiarisme, bahkan misinformasi.

Dilansir dari keterangannya pada Senin (16/10/2023), Afaneh mengambil salah satu contoh chatbot AI daring (online) dan mengeksplorasinya dengan singkat. ChatGPT menjadi alat paling populer dan menonjol, karena mencetak rekor basis pengguna dengan pertumbuhan tercepat. 

“[ChatGPT] tidak memiliki verifikasi usia yang tepat sehingga memiliki risiko terhadap privasi data anak-anak. Selain itu, ChatGPT dapat menyediakan konten yang sering kali tidak akurat dan keliru dengan cara yang meyakinkan. Beberapa siswa mulai menggunakan ChatGPT sebagai alat plagiarisme dan menemukan berbagai referensi palsu untuk artikel yang tidak ada,” jelas Afaneh rinci yang kutipannya dilansir dari keterangan resmi Kaspersky pada Senin (16/10/2023). 

Baca Juga: Dengan Mengandalkan Kecerdasan Buatan (AI), Perusahaan Patungan Digital Mediatama Maxima Siap Go Global

Afaneh menambahkan, dalam kasus lebih berbahaya, pada awal kehebohan ChatGPT, gadis-gadis remaja bertanya kepada AI tentang rencana diet dan informasi medis yang langsung dijawab chatbot dengan rencana dan saran tanpa mengacu pada data medis aktual, melainkan kumpulan informasi acak dari seluruh penjuru internet.

Kemudian, chatbot “MyAI” keluaran Snapchat menjadi terkenal pula di kalangan pengguna media sosial tersebut. Dalam penggunaannya, Snapchat mengizinkan pengguna berusia 13 tahun tanpa memerlukan izin orang tua, hal ini menimbulkan pertanyaan tentang privasi anak-anak dan penyimpanan data mereka oleh aplikasi.

“Risiko dari ‘teman’ AI ini adalah anak-anak sering kali benar-benar percaya bahwa mereka adalah teman nyata, dan bertindak berdasarkan saran mereka, yang menurut Snapchat sendiri “mungkin berisi konten yang bias, tidak benar, berbahaya, atau menyesatkan,” ujar Afaneh. 

Afaneh menganggap, ini sangatlah berisiko, karena remaja mungkin merasa lebih nyaman membagikan informasi pribadi dan detail pribadi tentang kehidupan mereka kepada chatbot, dibandingkan kepada orang tua yang dapat membantu mereka.

Afaneh juga menegaskan, terdapat sisi lain chatbot AI yang dirancang khusus untuk hal yang tidak pantas bagi remaja. Misalnya dengan memberikan pengalaman menjalin hubungan romantis dengan bahasa eksplisit. 

“Di sisi yang lebih tidak pantas, ada banyak chatbot AI yang dirancang khusus untuk memberikan pengalaman “erotis”. Chatbot ini memberikan pengalaman seperti menjalin hubungan romantis kepada penggunanya dengan bahasa eksplisit. Meskipun beberapa anak memerlukan verifikasi usia, namun hal ini berbahaya karena beberapa anak mungkin memilih untuk berbohong tentang usia mereka dan pencegahan kasus tersebut tidak cukup,” kata Afaneh.

Afaneh mengambil contoh MyAnima, salah satu chatbot AI yang ia uji dengan obrolan-obrolan kasual. Ia mengatakan, ia hampir tidak memerlukan upaya apa pun untuk memberikan jawaban seksual tanpa memerlukan verifikasi usia.

Selain itu, alat AI dewasa seperti Botfriend justru dirancang khusus untuk permainan peran seksual eksplisit dan yang diperlukan pengguna untuk mulai menggunakannya hanyalah email. 

“Hal ini selalu mengingatkan betapa pentingnya menyadari bagaimana anak-anak menggunakan internet dan apakah mereka berisiko terhadap privasi data dan penyalahgunaan informasi,” imbuh Afaneh.

Lantas, bagaimana menyeimbangkan risiko dan manfaat chatbot yang sering kali bertindak sebagai “teman” bagi anak-anak dan remaja? Kaspersky membagi tips sebagai berikut.