Komdigi Kebut Perpres AI, Nezar Ingatkan Bahaya AI yang Bisa Bertindak Sendiri

Pemerintah mempercepat penyusunan Peraturan Presiden (Perpres) tentang Peta Jalan Kecerdasan Artifisial (AI) Nasional dan Etika AI sebagai respons atas pesatnya perkembangan teknologi AI yang dinilai semakin otonom dan berpotensi menimbulkan risiko baru terhadap masyarakat.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengatakan regulasi tersebut akan menjadi landasan tata kelola AI di Indonesia agar inovasi teknologi tetap berjalan seiring dengan perlindungan kepentingan publik.

Menurut Nezar, tantangan terbesar saat ini bukan lagi sekadar kemampuan AI menghasilkan jawaban, melainkan kemampuannya mengambil tindakan yang dapat memengaruhi berbagai aktivitas, mulai dari transaksi, perubahan data, proses persetujuan, hingga layanan publik.

"Ketika AI tidak lagi sekadar menjawab, namun mulai mengambil tindakan, bagaimana kita meminta pertanggungjawaban saat tindakan tersebut salah?" kata Nezar di Jakarta, Kamis (6/8/2026).

Ia menilai perkembangan AI yang semakin cepat menciptakan kesenjangan antara laju inovasi teknologi dan kesiapan tata kelola. Jika tidak diantisipasi, kondisi tersebut berpotensi menimbulkan persoalan etika, akuntabilitas, dan perlindungan masyarakat, terutama pada penggunaan AI di sektor-sektor yang berdampak langsung terhadap publik.

Karena itu, pemerintah tengah merancang Perpres Peta Jalan AI Nasional dan Etika AI yang mengedepankan pendekatan berbasis risiko (risk-based approach) serta AI yang berpusat pada manusia (Human-Centered AI).

Menurut Nezar, prinsip Human-Centered AI menjadi fondasi utama dalam penyusunan regulasi tersebut.

"Pilar pertama yang disiapkan pemerintah adalah Human-Centered AI atau AI yang berpusat pada manusia. Prinsip ini menegaskan bahwa AI harus memperkuat kapasitas manusia, bukan menggantikannya," ujarnya.

Melalui pendekatan tersebut, pemerintah memastikan keputusan yang berdampak besar terhadap masyarakat tetap berada di bawah pengawasan manusia (human oversight). Selain itu, algoritma yang memengaruhi kepentingan publik diharapkan dapat dijelaskan (explainable) serta diaudit.

Pemerintah juga akan menyesuaikan pengembangan AI dengan karakteristik sosial dan budaya Indonesia.

Selain itu, Perpres akan menerapkan tata kelola berbasis risiko. Sistem AI yang dikategorikan berisiko tinggi diwajibkan menjalani penilaian risiko sejak tahap perancangan sebelum diimplementasikan.

"Pilar kedua adalah penerapan tata kelola berbasis risiko. Dalam pendekatan ini, sistem AI yang memiliki tingkat risiko tinggi akan diwajibkan menjalani penilaian risiko sejak tahap perancangan," kata Nezar.

Sebagai bagian dari penguatan tata kelola, pemerintah juga menyiapkan kewajiban transparansi bagi pengembang maupun penyedia layanan AI. Ketentuan tersebut mencakup pengungkapan model AI, pemberitahuan kepada pengguna, hingga pelabelan terhadap konten yang dihasilkan AI.

Baca Juga: Konten AI Manipulatif Meningkat, Komdigi Perkuat Literasi Digital Generasi Muda

Baca Juga: TrendAI Perkuat Infrastruktur Pusat Data di Indonesia, Dukung AI dan Kepatuhan UU PDP

Baca Juga: IMF Pangkas Ekonomi Global, OJK Ungkap Investasi AI Justru Diprediksi Jadi Penyelamat

Untuk sektor strategis seperti kesehatan dan jasa keuangan, pemerintah akan menyusun mekanisme mitigasi risiko yang disesuaikan dengan karakteristik masing-masing industri.

Menurut Nezar, kerangka regulasi tersebut diharapkan mampu menjaga keseimbangan antara percepatan inovasi AI dan perlindungan kepentingan publik.

"Jawaban pemerintah terletak pada kerangka kerja berbasis risiko dan berpusat pada manusia yang sedang kita bangun bersama. Namun yang lebih penting adalah komitmen seluruh pemangku kepentingan agar tidak pernah membiarkan kecepatan inovasi melampaui komitmen kita terhadap akuntabilitas," pungkasnya.