TikTok Tingkatkan Pengawasan Konten AI, Siapkan Sistem Baru untuk Deteksi Spam

TikTok memperkuat komitmennya dalam mendorong penggunaan kecerdasan buatan (Artificial Intelligence/AI) yang bertanggung jawab melalui serangkaian pembaruan, mulai dari peningkatan literasi AI, penguatan sistem deteksi konten spam berbasis AI, hingga memperluas kemitraan untuk meningkatkan transparansi konten yang dihasilkan AI.

Perusahaan menilai AI memiliki potensi besar dalam mengubah cara pengguna mengekspresikan kreativitas, menemukan minat baru, serta membangun pengalaman digital yang lebih aman, selama digunakan secara transparan dan bertanggung jawab.

"Di TikTok, kami percaya bahwa Kercerdasan Buatan (Artificial Intelligence/AI) dapat mengubah cara orang mengekspresikan kreativitas, menemukan minat baru, dan merasa aman, jika digunakan secara transparan dan bertanggung jawab. Oleh karena itu, kami terus memperkuat berbagai alat, kemitraan, dan perlindungan yang membantu komunitas TikTok mengenali, membentuk, dan memahami pengalaman mereka terhadap konten yang dibuat oleh AI," tulis TikTok.

TikTok memperkenalkan cara-cara baru untuk mewujudkan hal tersebut, di antaranya memperluas upaya literasi AI dengan materi edukasi baru dan investasi berkelanjutan untuk kemitraan dengan para ahli tepercaya. Kemudian .enguji peningkatan sistem deteksi untuk menargetkan akun-akun yang mengunggah konten spam berbasis AI yang membuat karya autentik dari kreator tersisihkan.

Selanjutnya memperkuat teknologi dan kemitraan transparansi AI dengan bergabung sebagai Dewan Pembina di Coalition for Content Provenance and Authenticity (C2PA). 

Seperti yang ditegaskan oleh para pakar, edukasi berperan penting dalam membantu masyarakat mengontrol pengalaman mereka dengan AI. Oleh karena itu, TikTok terus bekerja sama dengan mitra industri seperti NAMLE dan Henry Ajder untuk menyusun panduan baru yang membantu komunitas TikTok menggunakan alat AI secara bertanggung jawab. 

"Kami juga meluncurkan hub baru di dalam aplikasi, di mana pengguna dapat mempelajari keterampilan praktis untuk mengenali konten buatan AI saat mereka mencari istilah terkait AI," tulis TikTok.

Perusahaan juga terus berinvestasi untuk menghubungkan para ahli tepercaya dengan komunitas TikTok, termasuk membantu organisasi seperti NoFiltr dan Raspberry Pi Foundation mendorong literasi AI melalui konten TikTok. 

Sejak diluncurkan pada November 2025, program ini telah membantu berbagai organisasi ahli meraih lebih dari 200 juta tayangan melalui konten yang membantu masyarakat memahami dan menggunakan AI secara bertanggung jawab. Hingga saat ini, TikTok telah mengalokasikan lebih dari 4 juta dollar AS dan akan terus berinvestasi dalam program ini untuk memperluas jangkauan serta dampaknya.

Memperkuat Upaya Penanggulangan Spam

Setiap hari, TikTok melihat potensi AI untuk menciptakan kreativitas baru bagi komunitas TikTok. Namun, seiring perkembangannya, AI juga dapat disalahgunakan untuk memproduksi konten spam secara massal yang membuat karya autentik dari kreator tersisihkan.

"Kami telah lama melarang konten spam, serta memanfaatkan teknologi untuk mendeteksi dan menghapusnya dalam skala besar dari TikTok," jelas TikTok.

Dalam kuartal pertama tahun ini, lebih dari 86 juta akun palsu telah berhasil dihapus dari platform. Namun, seiring berkembangnya jenis konten ini, manajemen juga harus memperkuat upaya dalam menjaga integritas TikTok. 

Oleh karena itu, dalam beberapa minggu ke depan, TikTok akan menguji peningkatan pada sistem deteksi untuk mengidentifikasi akun TikTok yang mengunggah konten spam berbasis AI terkait topik-topik yang berisiko memengaruhi kepercayaan dan kesejahteraan masyarakat. Topik ini mencakup konten seputar politik dan peristiwa terkini, tips finansial, dan kesehatan.

Seiring semakin banyaknya kreator yang mengeksplorasi penggunaan AI, TikTok juga terus memperluas teknologi pelabelan dan kemitraan penggunaan AI untuk membantu kreator dapat melabeli AIGC (AI Generated Content/Konten buatan AI) mereka secara bertanggung jawab.

Dua tahun lalu, TikTok menjadi platform video pertama yang menerapkan Kredensial Konten C2PA, teknologi transparansi AI terkemuka yang membantu masyarakat memahami ketika sebuah konten dibuat atau diedit secara signifikan menggunakan AI. 

"Kami juga bangga telah bergabung dalam Dewan Pembina C2PA untuk turut mendorong adopsi teknologi ini di industri," pungkas dia.