AI Tidak Berjalan di Atas Algoritma, tetapi di Atas Kepercayaan

Indonesia sedang memasuki fase ketika kecerdasan artifisial tidak lagi sekadar bahan seminar atau eksperimen di laboratorium. AI mulai hadir di ruang kerja, layanan pelanggan, manufaktur, perdagangan, kesehatan, pendidikan, perpajakan, perizinan, dan pelayanan publik. Pertanyaan terpentingnya bukan lagi apakah kita akan menggunakan AI, melainkan apakah masyarakat, pekerja, pelaku usaha, dan aparatur negara percaya pada cara AI itu digunakan.

Di sinilah kita perlu mengubah cara pandang. Selama ini, transformasi AI kerap dibicarakan sebagai persoalan infrastruktur komputasi, kualitas data, model, investasi, dan talenta. Semua itu penting, tetapi tidak cukup. Teknologi dapat dibeli. Sistem dapat dibangun. Model dapat dilatih. Namun, bila manusia takut kehilangan pekerjaannya, tidak memahami tujuan perubahan, tidak diberi ruang untuk bertanya, atau tidak memiliki jalan untuk memperbaiki keputusan yang keliru, transformasi akan berhenti pada tahap instalasi—bukan adopsi, apalagi penciptaan nilai.

Kajian McKinsey, “AI Transformations Run on Trust”, menegaskan bahwa kepercayaan bukan hadiah yang muncul setelah transformasi berhasil. Kepercayaan adalah syarat awal agar orang mau mencoba, belajar, beradaptasi, dan menggunakan AI secara produktif. Temuannya menunjukkan bahwa pekerja dengan tingkat kepercayaan rendah terhadap dukungan organisasinya 1,5 kali lebih mungkin merasa cemas menghadapi perubahan kerja akibat AI. Kecemasan tertinggi justru muncul pada manajer menengah—kelompok yang seharusnya menerjemahkan strategi pimpinan menjadi perubahan perilaku sehari-hari.

Temuan ini sangat relevan bagi Indonesia. Di perusahaan, ketidakpercayaan akan menurunkan adopsi, menimbulkan resistensi tersembunyi, dan membuat investasi AI gagal menghasilkan produktivitas. Di pemerintahan, konsekuensinya jauh lebih besar. AI dapat memengaruhi hak masyarakat: siapa menerima bantuan, bagaimana izin diproses, bagaimana risiko kesehatan dinilai, atau bagaimana kewajiban perpajakan diperiksa. Warga tidak selalu memiliki pilihan penyedia layanan lain. Karena itu, negara harus memenuhi standar yang lebih tinggi daripada sekadar efisiensi.

Bagi saya, trust atau kepercayaan harus diperlakukan sebagai infrastruktur transformasi. Ia bukan slogan komunikasi, bukan kampanye internal, dan bukan janji bahwa AI tidak akan mengubah apa pun. Justru kepercayaan lahir ketika pemimpin jujur mengenai apa yang akan berubah, apa yang belum diketahui, risiko apa yang sedang diuji, siapa yang bertanggung jawab, dan bagaimana kesalahan akan diperbaiki.

Artinya, agenda kita tidak boleh berhenti pada “adopsi AI”. Kita harus beralih menuju perancangan ulang proses kerja dan perjalanan layanan. Sebelum proses yang rumit didigitalisasi, proses tersebut harus disederhanakan. Sebelum AI ditempatkan dalam suatu keputusan, kita harus memastikan kualitas datanya, batas kewenangannya, peran manusianya, serta jalur keberatan dan koreksinya. Digitalisasi proses yang buruk hanya akan menghasilkan kerumitan yang bergerak lebih cepat.

Indonesia sebenarnya telah memiliki fondasi penting melalui Sistem Pemerintahan Berbasis Elektronik, Satu Data Indonesia, ketentuan interoperabilitas, serta percepatan integrasi layanan digital nasional. Tantangan berikutnya bukan sekadar menghubungkan aplikasi kementerian dan lembaga. Tantangannya adalah membuktikan bahwa layanan yang terintegrasi dan semakin didukung AI tetap sah, aman, dapat dipahami, inklusif, dan dapat dikoreksi.

Karena itu, saya mengusulkan pendekatan Trust-by-Design—kepercayaan yang dirancang sejak awal, bukan ditempelkan setelah sistem diluncurkan. Setiap penggunaan AI yang berdampak material perlu memenuhi lima pertanyaan sederhana. Apakah orang memahami tujuan dan arah perubahan? Apakah pekerja atau warga yang terdampak ikut membentuknya? Apakah mereka memiliki kemampuan untuk menggunakan sistem baru? Apakah keputusan dapat dijelaskan dan digugat? Dan dapatkah pemimpin menunjukkan bukti manfaat sekaligus pengendalian risikonya?

Dalam dunia usaha, setiap program AI seharusnya tidak hanya memiliki technology case dan business case, tetapi juga workforce and trust case. Perusahaan harus menjelaskan proses kerja apa yang berubah, peran apa yang terdampak, keterampilan apa yang dibutuhkan, perlindungan apa yang berlaku, dan bagaimana manfaat produktivitas dibagikan. Pelatihan satu kali tidak cukup. Yang dibutuhkan adalah pembelajaran sesuai peran, ruang eksperimen yang aman, pendampingan, serta jalur mobilitas dan penempatan ulang yang kredibel.

Para manajer lini dan manajer menengah harus menjadi prioritas. Merekalah yang setiap hari menjawab pertanyaan pekerja, menghadapi kegagalan awal, melihat jarak antara strategi dan realitas, serta menentukan apakah orang merasa didengar atau diabaikan. Bila mereka hanya menerima target adopsi tanpa waktu, alat, dan kewenangan untuk membangun kepercayaan, organisasi sedang meminta mereka memimpin perubahan dengan tangan terikat.

KADIN memiliki peran strategis untuk memastikan bahwa transformasi ini tidak hanya dapat dilakukan oleh perusahaan besar. Sebagian besar UMKM tidak memiliki tim tata kelola AI, ahli keamanan, atau anggaran audit sendiri. Kita memerlukan pedoman adopsi yang praktis per sektor, template penilaian risiko, pelatihan bersama, kredensial keterampilan yang dapat dibawa lintas pekerjaan, serta layanan assurance yang terjangkau. Tata kelola yang baik tidak boleh menjadi kemewahan yang hanya dimiliki korporasi besar.

Dalam pemerintahan, Trust-by-Design harus menjadi gerbang sebelum AI menyentuh layanan esensial atau keputusan berdampak tinggi. Masyarakat perlu diberi tahu ketika AI secara material memengaruhi suatu keputusan. Data dan jejak keputusan harus dapat ditelusuri. Harus ada pejabat manusia yang memiliki tanggung jawab nyata—bukan sekadar alamat surel otomatis. Warga harus memiliki jalur koreksi, keberatan, dan eskalasi dengan batas waktu respons yang jelas. Audit independen, pelaporan insiden, dan ukuran kinerja publik perlu disesuaikan dengan tingkat risikonya.

Hal ini penting karena model yang secara teknis akurat tetap dapat gagal sebagai kebijakan publik. Data sumber bisa salah. Aparatur mungkin tidak mampu menjelaskan hasilnya. Masyarakat mungkin tidak tahu cara menggugat. Layanan digital dapat mengecualikan warga yang memiliki keterbatasan konektivitas, literasi, bahasa, atau disabilitas. Efisiensi tanpa prosedur yang adil akan melahirkan ketidakpercayaan; kecepatan tanpa mekanisme koreksi hanya mempercepat ketidakadilan.

Ukuran keberhasilan juga harus diperbaiki. Kita tidak cukup menghitung jumlah lisensi AI, pengguna terdaftar, aplikasi yang diluncurkan, atau persentase uptime. Yang harus diukur adalah penggunaan berulang yang berkualitas, pengurangan waktu layanan, penyelesaian perjalanan warga dari awal sampai akhir, peningkatan produktivitas, tingkat kesalahan dan pembatalan keputusan, jumlah keluhan, waktu koreksi, hasil transisi tenaga kerja, serta kesenjangan akses antarwilayah dan kelompok masyarakat.

Saya melihat perlunya sebuah compact atau kesepakatan bersama pemerintah dan dunia usaha mengenai transformasi AI yang tepercaya. Isinya tidak perlu menjadi regulasi yang kaku dan seragam. Prinsipnya harus berbasis hasil dan proporsional terhadap risiko: transparansi, partisipasi, investasi keterampilan, penanggung jawab manusia, pengelolaan data, mekanisme pemulihan, dan pembuktian manfaat. Standar yang sama dapat diterjemahkan berbeda untuk kementerian, BUMN, perusahaan besar, UMKM, dan pemerintah daerah.

Kesepakatan itu perlu diuji melalui proyek nyata, bukan berhenti sebagai deklarasi. Dalam 100 hari pertama, pemerintah dan dunia usaha dapat memilih tiga perjalanan layanan publik dan tiga sektor bisnis dengan masalah yang jelas, nilai tinggi, serta hasil yang dapat diukur dalam enam hingga dua belas bulan. Setiap pilot harus memiliki baseline kepercayaan dan kesiapan, pemilik yang bertanggung jawab, rencana tenaga kerja, jalur koreksi, serta kriteria yang tegas untuk dilanjutkan, diperbaiki, atau dihentikan.

Kita juga perlu menghindari trust-washing: penggunaan kata “tepercaya” tanpa bukti dan tanpa pemulihan ketika terjadi kesalahan. Kepercayaan tidak dibangun dengan menyembunyikan kegagalan. Ia tumbuh ketika institusi berani mempublikasikan pelajaran, memperbaiki desain, dan membuktikan bahwa keluhan warga atau pekerja benar-benar mengubah sistem. Persepsi kepercayaan harus selalu dipasangkan dengan bukti operasional. Kepercayaan tinggi tanpa kinerja dapat menimbulkan rasa puas diri; kinerja tinggi tanpa keadilan prosedural akan rapuh dan tidak bertahan lama.

Bagi Indonesia, ini bukan agenda defensif untuk memperlambat inovasi. Sebaliknya, kepercayaan adalah akselerator yang membuat inovasi dapat diterima, diperluas, dan bertahan. Negara dan perusahaan yang mampu mengelola perubahan secara jujur, adil, dan akuntabel akan lebih cepat memobilisasi manusia, data, dan modal. Mereka tidak hanya memiliki teknologi yang lebih baik, tetapi juga institusi yang lebih siap belajar.

Peluang AI Indonesia sering dibingkai sebagai perlombaan membangun pusat data, memperoleh model terbaik, menguasai talenta, dan menarik investasi. Kita harus mengejar semuanya. Namun, kemampuan yang akhirnya menentukan adalah apakah institusi kita sanggup mengajak manusia merancang ulang pekerjaan dan pelayanan tanpa mengorbankan martabat, keamanan, keadilan, dan akuntabilitas.

Untuk KADIN, tugasnya adalah membantu dunia usaha—terutama UMKM—bergerak dari sekadar membeli alat menuju produktivitas yang tepercaya: proses yang lebih baik, keterampilan yang lebih kuat, tata kelola yang bertanggung jawab, dan transisi yang adil bagi pekerja. Untuk Komite Transformasi Digital Pemerintahan, tugasnya adalah memastikan bahwa integrasi dan AI tidak hanya membuat negara bergerak lebih cepat, tetapi juga membuat layanan publik lebih sederhana, dapat diandalkan, inklusif, dan mudah dikoreksi ketika terjadi kesalahan.

AI tidak akan dipercaya hanya karena ia canggih. Ia akan dipercaya ketika manusia memahami tujuannya, memiliki suara dalam perubahan, memperoleh dukungan untuk berkembang, dan mengetahui bahwa kekuasaan tetap dapat dimintai pertanggungjawaban. Inilah fondasi transformasi AI Indonesia: bukan teknologi yang menggantikan kepercayaan, melainkan teknologi yang bekerja di atasnya.