Apa Itu Content Moderation?

Content moderation atau moderasi konten adalah proses penyaringan dan pemantauan konten yang dibuat pengguna secara online. Untuk menyediakan lingkungan yang aman bagi pengguna dan merek, platform harus memoderasi konten untuk memastikan bahwa konten tersebut berada dalam pedoman perilaku yang dapat diterima oleh platform dan audiensnya.

Dengan kata lain, ketika konten dikirimkan oleh pengguna ke situs web, konten tersebut akan melalui proses penyaringan (proses moderasi) untuk memastikan bahwa konten tersebut mematuhi peraturan situs web, tidak ilegal, tidak pantas, atau melecehkan, dll.

Baca Juga: Apa Itu Content-based Filtering?

Saat platform memoderasi konten, konten buatan pengguna (UGC) yang dapat diterima dapat dibuat dan dibagikan dengan pengguna lain. Perilaku yang tidak pantas, toxic atau dilarang dapat dicegah, diblokir secara real-time, atau dihapus setelah kejadian, tergantung pada alat dan prosedur moderasi konten yang dimiliki platform. Setiap platform memiliki definisi perilaku berbeda-beda.

Moderasi konten adalah metode paling efektif untuk mencapai semua itu. Ini membantu bisnis online menyediakan lingkungan yang aman dan sehat bagi penggunanya.

Tujuan moderasi konten adalah untuk memastikan platform aman digunakan dan menjunjung tinggi program Kepercayaan dan Keamanan merek. Moderasi konten banyak digunakan oleh media sosial, situs web dan aplikasi kencan, pasar, forum, dan platform serupa.

Karena banyaknya konten yang dibuat setiap detik, platform berdasarkan konten buatan pengguna berjuang untuk tetap berada di atas teks, gambar, dan video yang tidak pantas dan menyinggung.

Moderasi konten adalah satu-satunya cara untuk menjaga situs web merek Anda sesuai dengan standar Anda, melindungi klien dan reputasi Anda. Dengan bantuannya, Anda dapat memastikan platform Anda memenuhi tujuan yang telah Anda rancang, daripada memberikan ruang untuk spam, kekerasan, dan konten eksplisit.

Banyak faktor yang berperan saat memutuskan cara terbaik untuk menangani moderasi konten untuk platform Anda, seperti fokus bisnis, jenis konten yang dibuat, dan basis pengguna. Berikut ini jenis-jenis proses moderasi konten, mengutip Imagga.com di Jakarta, Selasa (10/5/22):

1. Moderasi Otomatis

Moderasi saat ini sangat bergantung pada teknologi untuk membuat proses lebih cepat, lebih mudah, dan lebih aman. Algoritme bertenaga AI menganalisis teks dan visual dalam waktu yang sangat singkat yang dibutuhkan orang untuk melakukannya, dan yang terpenting tidak mengalami trauma psikologis karena memproses konten yang tidak pantas.

Dalam hal teks, moderasi otomatis dapat menyaring kata kunci yang dianggap bermasalah. Sistem yang lebih maju dapat melihat pola percakapan dan analisis hubungan juga.

Untuk visual, pengenalan gambar yang didukung oleh alat AI seperti Imagga menawarkan opsi yang sangat layak untuk memantau gambar, video, dan streaming langsung. Solusi tersebut mengidentifikasi citra yang tidak tepat dan memiliki berbagai pilihan untuk mengontrol tingkat ambang batas dan jenis visual sensitif.

2. Pra-Moderasi

Ini adalah cara paling rumit untuk mendekati moderasi konten karena mensyaratkan bahwa setiap konten ditinjau sebelum dipublikasikan di platform Anda. Saat pengguna memposting beberapa teks atau visual, item dikirim ke antrean tinjauan. Ini hanya ditayangkan setelah moderator konten secara eksplisit menyetujuinya.

Meskipun ini adalah cara teraman untuk memblokir konten berbahaya, proses ini agak lambat dan tidak berlaku untuk dunia online yang bergerak cepat. Namun, platform yang membutuhkan tingkat keamanan tinggi masih menggunakan metode moderasi ini. Contoh umum adalah platform untuk anak-anak yang mengutamakan keamanan pengguna.

3. Pasca Moderasi

Pasca-moderasi adalah cara paling umum untuk melakukan penyaringan konten. Pengguna diizinkan untuk memposting konten mereka kapan pun mereka mau, tetapi semua item diantrekan untuk moderasi. Jika sebuah item ditandai, item tersebut akan dihapus untuk melindungi pengguna lainnya.

Platform berusaha untuk mempersingkat waktu peninjauan, sehingga konten yang tidak pantas tidak terlalu lama online. Meskipun pasca-moderasi tidak seaman pra-moderasi, metode ini masih menjadi metode yang disukai banyak bisnis digital saat ini.

4. Moderasi Reaktif

Moderasi reaktif mengharuskan pengguna untuk menandai konten yang menurut mereka tidak pantas atau bertentangan dengan aturan platform Anda. Ini bisa menjadi solusi yang efektif dalam beberapa kasus.

Moderasi reaktif dapat digunakan sebagai metode mandiri, atau dikombinasikan dengan pasca moderasi untuk hasil yang optimal.

5. Moderasi Terdistribusi

Jenis moderasi ini bergantung sepenuhnya pada komunitas online untuk meninjau konten dan menghapusnya seperlunya. Pengguna menggunakan sistem peringkat untuk menandai apakah suatu konten sesuai dengan pedoman platform.

Metode ini jarang digunakan karena menimbulkan tantangan yang signifikan bagi merek dalam hal reputasi dan kepatuhan hukum.

Untuk menggunakan moderasi konten untuk platform Anda, Anda harus terlebih dahulu menetapkan pedoman yang jelas tentang apa saja konten yang tidak pantas. Selain jenis konten yang harus ditinjau, ditandai, dan dihapus, Anda juga harus menentukan ambang batas moderasi. Ini mengacu pada tingkat sensitivitas yang harus dipegang oleh moderator konten saat meninjau konten. Ambang batas yang akan Anda tetapkan akan bergantung pada ekspektasi pengguna dan demografi mereka, serta jenis bisnis yang Anda jalankan.