Meta Umumkan Fitur Baru untuk Awasi Interaksi Remaja dengan AI di Platformnya

Meta mengumumkan pratinjau fitur kendali orang tua terbaru yang dirancang untuk memantau dan membatasi percakapan pengguna remaja dengan karakter berbasis kecerdasan buatan (AI) di platformnya.

Dilansir dari TechCrunch, Sabtu (18/10), fitur ini akan mulai diluncurkan tahun depan. Orang tua nantinya dapat memblokir karakter AI tertentu serta memantau topik percakapan yang dilakukan anak mereka dengan karakter AI.

Dalam pengembangannya, Meta juga akan memberikan opsi bagi orang tua untuk menonaktifkan seluruh percakapan anak dengan karakter AI. Namun, langkah ini tidak akan memblokir akses ke Meta AI—chatbot utama milik perusahaan—yang hanya akan menampilkan konten sesuai usia pengguna.

Selain itu, orang tua dapat memilih pengawasan yang lebih selektif dengan mematikan interaksi anak dengan karakter tertentu. Mereka juga akan menerima laporan mengenai tema percakapan antara remaja dengan karakter AI maupun Meta AI.

Fitur ini akan pertama kali hadir di Instagram pada awal tahun depan dan diluncurkan dalam bahasa Inggris di Amerika Serikat, Inggris, Kanada, dan Australia.

“Kami memahami tanggung jawab besar yang dimiliki orang tua dalam menjaga keamanan anak remaja mereka di dunia maya. Karena itu, kami berkomitmen menghadirkan alat dan sumber daya yang memudahkan mereka, terutama dalam menghadapi teknologi baru seperti AI,” ujar Meta dalam pernyataannya.

Baca Juga: PHR Manfaatkan Kecerdasan Buatan, Laju Penurunan Produksi di Blok Rokan Berhasil Ditekan

Awal pekan ini, Meta juga menegaskan bahwa konten dan interaksi berbasis AI untuk pengguna di bawah umur akan mengikuti pedoman klasifikasi film PG-13.

Artinya, sistem akan menghindari topik sensitif seperti kekerasan ekstrem, ketelanjangan, serta penyalahgunaan narkoba. Saat ini, pengguna remaja hanya dapat berinteraksi dengan karakter AI yang telah dikurasi agar sesuai dengan standar konten ramah usia.

Selain kontrol percakapan, orang tua juga dapat menetapkan batas waktu penggunaan AI oleh anak mereka. Sebelumnya, Instagram telah menggunakan teknologi AI untuk mendeteksi upaya pengguna memalsukan usia demi melewati batasan umur aplikasi.

Peluncuran fitur ini menambah daftar langkah pengamanan baru yang diperkenalkan berbagai platform digital seperti OpenAI dan YouTube dalam beberapa pekan terakhir.

Upaya tersebut hadir di tengah meningkatnya kekhawatiran terhadap dampak media sosial dan teknologi AI terhadap kesehatan mental remaja, serta munculnya gugatan hukum yang menyoroti potensi peran perusahaan teknologi dalam kasus bunuh diri di kalangan remaja.