Konsumen RI Makin Percaya AI, 86% Justru Khawatir Identitas Disalahgunakan

Sebanyak 61% konsumen Indonesia menyatakan bersedia membiarkan kecerdasan buatan atau artificial intelligence (AI) mengambil keputusan secara mandiri atas nama mereka. Tingginya penerimaan tersebut membuka peluang bagi dunia usaha untuk mengembangkan otomatisasi layanan, tetapi sekaligus meningkatkan kebutuhan terhadap keamanan identitas dan perlindungan data pribadi.

Temuan tersebut berdasarkan 2026 Consumer Survey yang dilakukan Ping Identity. Angka penerimaan konsumen Indonesia terhadap pengambilan keputusan oleh AI tersebut hampir dua kali lipat rata-rata global yang tercatat sebesar 31%.

Survei yang sama menunjukkan 74% responden Indonesia mengaku sangat mengenal atau cukup memahami teknologi agentic AI, yakni sistem AI yang tidak hanya menghasilkan jawaban, tetapi juga mampu menjalankan tugas dan mengambil tindakan secara mandiri dalam batasan tertentu.

Senior Vice President and General Manager for Asia Pacific and Japan (APJ) Ping Identity, Akkasha Sultan, mengatakan keterbukaan konsumen terhadap teknologi tersebut memberikan peluang bagi perusahaan untuk meningkatkan produktivitas, mengotomatisasi proses bisnis, dan menghadirkan layanan pelanggan yang lebih personal.

"Agentic AI merupakan perkembangan penting dalam transformasi digital karena teknologi ini tidak hanya mampu menjawab pertanyaan, tetapi juga menjalankan tugas dan mengambil keputusan dalam batasan yang telah ditetapkan," ujar Akkasha.

Menurutnya, pemanfaatan teknologi tersebut berpotensi diterapkan di berbagai sektor, termasuk perbankan, ritel, telekomunikasi, dan layanan digital. Namun, perusahaan perlu memastikan setiap agen AI memiliki identitas yang dapat diverifikasi serta kewenangan akses yang jelas.

Kebutuhan tersebut menjadi penting karena 86% konsumen Indonesia khawatir agen AI dapat memberikan gambaran yang keliru mengenai kepribadian atau nilai-nilai pribadi mereka.

Kekhawatiran ini menunjukkan bahwa penerimaan terhadap otomatisasi tidak serta-merta menghilangkan kebutuhan konsumen untuk mengendalikan bagaimana identitas dan kepentingannya diwakili oleh teknologi.

"Ketika agen AI mengirimkan pesan, mengakses akun, atau menyelesaikan tugas atas nama seseorang, organisasi harus mampu membedakan identitas agen AI dari orang yang diwakilinya serta memverifikasi apakah tindakan yang dilakukan telah mendapat otorisasi," jelas Akkasha.

Untuk mengantisipasi risiko tersebut, perusahaan perlu memberikan identitas unik kepada setiap agen AI, membatasi kewenangan akses berdasarkan kebutuhan, serta mencatat aktivitas sistem agar setiap tindakan dapat ditelusuri dan dipertanggungjawabkan.

Privasi dan Regulasi Jadi Tantangan

Selain keamanan identitas, perlindungan data pribadi menjadi faktor penting dalam penerapan agentic AI. Survei Ping Identity mencatat 49% konsumen Indonesia khawatir AI dapat melanggar privasi mereka.

Persentase yang sama menyatakan jaminan bahwa data pribadi tidak digunakan untuk melatih model AI publik dapat meningkatkan kepercayaan mereka terhadap layanan berbasis AI.

Akkasha menilai perlindungan privasi perlu menjadi bagian dari perencanaan sejak awal pengembangan teknologi. Perusahaan juga perlu menerapkan prinsip least privilege, yakni membatasi hak akses sistem hanya pada informasi yang dibutuhkan untuk menjalankan tugas tertentu.

Di Indonesia, pengelolaan data pribadi dalam penggunaan teknologi AI juga berkaitan dengan Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP).

Kebutuhan akan kerangka perlindungan tersebut tercermin dari hasil survei yang menunjukkan 92% konsumen Indonesia menilai regulasi pemerintah untuk melindungi data identitas dalam aplikasi AI merupakan hal penting.

Pada Maret 2026, Kementerian Komunikasi dan Digital dilaporkan tengah menyiapkan Peraturan Presiden mengenai AI sebagai bagian dari pengembangan tata kelola kecerdasan buatan nasional.

"Alih-alih menunggu hingga seluruh detail regulasi ditetapkan, organisasi dapat mulai menyusun kebijakan tata kelola AI internal, menetapkan tanggung jawab secara jelas, dan memastikan sistem mereka mematuhi peraturan yang sudah berlaku," kata Akkasha.

Aspek transparansi juga menjadi pertimbangan konsumen dalam menggunakan layanan berbasis AI. Sebanyak 51% responden Indonesia menganggap pencantuman sumber informasi sebagai indikator kepercayaan terhadap AI.

Sementara itu, 37% konsumen menghargai adanya bukti bahwa layanan yang digunakan benar-benar berasal dari merek atau perusahaan resmi.

Akkasha mengatakan perusahaan perlu menerapkan autentikasi dan otorisasi sesuai tingkat risiko. Untuk transaksi sensitif, mekanisme tersebut dapat dilengkapi dengan verifikasi tambahan maupun keterlibatan manusia.

Ping Identity mengembangkan pendekatan Identity for AI dan Agent Governance untuk membantu organisasi mengelola identitas agen AI, mengendalikan akses, serta memantau aktivitasnya.