Kaspersky Amati Peluang dan Risiko Chatbot AI untuk Anak dan Remaja

Analis konten web di Kaspersky, Noura Afaneh mengamati bahwa kecerdasan buatan (AI) telah menjadi bagian integral dalam kehidupan manusia. Semua orang mencobanya, bahkan chatbot AI yang dicoba anak-anak dan remaja. Selain bermanfaat, namun Afaneh juga mengamati bahwa alat ini justru tidak menyediakan verifikasi usia, alat plagiarisme, bahkan misinformasi.

Dilansir dari keterangannya pada Senin (16/10/2023), Afaneh mengambil salah satu contoh chatbot AI daring (online) dan mengeksplorasinya dengan singkat. ChatGPT menjadi alat paling populer dan menonjol, karena mencetak rekor basis pengguna dengan pertumbuhan tercepat. 

“[ChatGPT] tidak memiliki verifikasi usia yang tepat sehingga memiliki risiko terhadap privasi data anak-anak. Selain itu, ChatGPT dapat menyediakan konten yang sering kali tidak akurat dan keliru dengan cara yang meyakinkan. Beberapa siswa mulai menggunakan ChatGPT sebagai alat plagiarisme dan menemukan berbagai referensi palsu untuk artikel yang tidak ada,” jelas Afaneh rinci yang kutipannya dilansir dari keterangan resmi Kaspersky pada Senin (16/10/2023). 

Baca Juga: Dengan Mengandalkan Kecerdasan Buatan (AI), Perusahaan Patungan Digital Mediatama Maxima Siap Go Global

Afaneh menambahkan, dalam kasus lebih berbahaya, pada awal kehebohan ChatGPT, gadis-gadis remaja bertanya kepada AI tentang rencana diet dan informasi medis yang langsung dijawab chatbot dengan rencana dan saran tanpa mengacu pada data medis aktual, melainkan kumpulan informasi acak dari seluruh penjuru internet.

Kemudian, chatbot “MyAI” keluaran Snapchat menjadi terkenal pula di kalangan pengguna media sosial tersebut. Dalam penggunaannya, Snapchat mengizinkan pengguna berusia 13 tahun tanpa memerlukan izin orang tua, hal ini menimbulkan pertanyaan tentang privasi anak-anak dan penyimpanan data mereka oleh aplikasi.

“Risiko dari ‘teman’ AI ini adalah anak-anak sering kali benar-benar percaya bahwa mereka adalah teman nyata, dan bertindak berdasarkan saran mereka, yang menurut Snapchat sendiri “mungkin berisi konten yang bias, tidak benar, berbahaya, atau menyesatkan,” ujar Afaneh. 

Afaneh menganggap, ini sangatlah berisiko, karena remaja mungkin merasa lebih nyaman membagikan informasi pribadi dan detail pribadi tentang kehidupan mereka kepada chatbot, dibandingkan kepada orang tua yang dapat membantu mereka.

Afaneh juga menegaskan, terdapat sisi lain chatbot AI yang dirancang khusus untuk hal yang tidak pantas bagi remaja. Misalnya dengan memberikan pengalaman menjalin hubungan romantis dengan bahasa eksplisit. 

“Di sisi yang lebih tidak pantas, ada banyak chatbot AI yang dirancang khusus untuk memberikan pengalaman “erotis”. Chatbot ini memberikan pengalaman seperti menjalin hubungan romantis kepada penggunanya dengan bahasa eksplisit. Meskipun beberapa anak memerlukan verifikasi usia, namun hal ini berbahaya karena beberapa anak mungkin memilih untuk berbohong tentang usia mereka dan pencegahan kasus tersebut tidak cukup,” kata Afaneh.

Afaneh mengambil contoh MyAnima, salah satu chatbot AI yang ia uji dengan obrolan-obrolan kasual. Ia mengatakan, ia hampir tidak memerlukan upaya apa pun untuk memberikan jawaban seksual tanpa memerlukan verifikasi usia.

Selain itu, alat AI dewasa seperti Botfriend justru dirancang khusus untuk permainan peran seksual eksplisit dan yang diperlukan pengguna untuk mulai menggunakannya hanyalah email. 

“Hal ini selalu mengingatkan betapa pentingnya menyadari bagaimana anak-anak menggunakan internet dan apakah mereka berisiko terhadap privasi data dan penyalahgunaan informasi,” imbuh Afaneh.

Lantas, bagaimana menyeimbangkan risiko dan manfaat chatbot yang sering kali bertindak sebagai “teman” bagi anak-anak dan remaja? Kaspersky membagi tips sebagai berikut. 

Pertama adalah mengedukasi tentang keamanan internet pada anak-anak dan remaja, khususnya tentang keamanan dan privasi online. Cara ini ampuh untuk mencegah mereka berbagi informasi pribadi kepada orang asing dan chatbot.

Kedua adalah mencoba teknologi chatbot AI bersama-sama. Tujuannya, agar orang tua terlibat sejak awal, dan menunjukkan kepada anak-anak mereka bagaimana dan bagaimana tidak menggunakan alat-alat ini. Tunjukkan contoh yang dapat mereka bicarakan dan chatbot AI mana yang dapat digunakan atau dihindari.

Ketiga adalah mengawasi, mengontrol, dan mengatur keamanan privasi dengan solusi keamanan komprehensif. Orang tua dapat menggunakan aplikasi khusus untuk pengasuhan digital yang menyediakan perlindungan dan keamanan anak dan remaja saat online.

Umumnya, fitur yang disediakan mencakup pemfilteran konten yang memblokir situs web tidak pantas, manajemen waktu pemakaian perangkat untuk meningkatkan keseimbangan online yang sehat, penelusuran aman untuk memfilter dan memblokir konten berbahaya, dan banyak lagi alat yang memungkinkan orang tua merasa aman saat anak-anak mereka menjelajah internet.

Baca Juga: Feedloop AI dan Telkom Kolaborasi Kembangkan Teknologi Berbasis Kecerdasan Buatan