Wamen Nezar Ungkap Risiko Agentic AI, Manusia Harus Tetap Pegang Kendali

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengingatkan potensi risiko Agentic Artificial Intelligence (Agentic AI) yang mampu mengambil keputusan dan menjalankan tindakan secara mandiri tanpa keterlibatan manusia secara langsung.

Menurut Nezar, kemampuan tersebut membuat batas otoritas yang diberikan kepada AI perlu dirancang secara jelas. Agentic AI tidak lagi sebatas menghasilkan respons berdasarkan perintah, tetapi dapat membangun penalaran, menentukan keputusan, hingga menjalankan serangkaian tindakan.

“Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?” ujar Nezar dalam acara Techpresso Metro TV di Jakarta Barat, Kamis (10/9/2026).

Nezar mencontohkan penggunaan Agentic AI sebagai asisten perjalanan. Sistem dapat diberi kewenangan memilih tiket, mengatur akomodasi, menghubungi penyedia layanan, hingga melakukan pembayaran.

Kemampuan tersebut dapat meningkatkan efisiensi, tetapi juga menimbulkan risiko ketika AI diberikan otoritas untuk mengambil keputusan yang berdampak langsung kepada pengguna.

“Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.

Risiko menjadi semakin kompleks ketika satu Agentic AI dapat berkomunikasi dan berkoordinasi dengan Agentic AI lainnya. Dalam skenario tersebut, proses pengambilan keputusan antarsistem dapat berlangsung dengan minim intervensi manusia.

Nezar juga menyoroti potensi silent autonomy, yakni kondisi ketika sistem dapat membangun penalaran dan mengambil keputusan tanpa sepenuhnya diketahui manusia.

Karena itu, menurut Nezar, perkembangan Agentic AI perlu diikuti mekanisme yang memastikan manusia tetap memiliki kendali atas keputusan maupun tindakan yang dilakukan sistem.

“Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah sendiri mengambil pendekatan berbasis risiko untuk menjaga keseimbangan antara ruang inovasi dan perlindungan terhadap manusia,” tegasnya.

Nezar mengatakan prinsip human centric dan human in the loop menjadi bagian penting dalam tata kelola AI. AI dapat mengambil alih pekerjaan tertentu untuk meningkatkan efisiensi, tetapi batas kewenangan harus ditentukan sejak awal.

Untuk keputusan yang memiliki dampak signifikan, keterlibatan manusia tetap diperlukan sebagai pengendali sekaligus pihak yang bertanggung jawab terhadap hasil keputusan.

Selain persoalan otoritas, risiko AI dapat muncul sejak tahap pengelolaan data, pengembangan model, hingga pengambilan keputusan oleh sistem. Ancaman seperti prompt injection dan data poisoning dapat memengaruhi proses kerja maupun keputusan yang dihasilkan AI.

Karena itu, Nezar menilai tata kelola AI perlu berjalan beriringan dengan aspek keamanan siber.

“Cybersecurity dan tata kelola AI harus digandeng bersamaan,” tuturnya.

Indonesia saat ini menyiapkan kerangka tata kelola AI melalui sejumlah instrumen, termasuk Surat Edaran tentang Etika Kecerdasan Artifisial, UU Informasi dan Transaksi Elektronik (UU ITE), serta UU Pelindungan Data Pribadi (UU PDP).

Pemerintah juga menyiapkan peta jalan nasional AI dan regulasi mengenai etika AI sebagai landasan pengembangan serta pemanfaatan teknologi tersebut.

Baca Juga: Bukan Sekadar Tambah Storage, AI Memaksa Perusahaan Benahi Infrastruktur Data

Baca Juga: PBB Ketar-ketir AI Makin Canggih, Sebut Bisa Mengancam Eksistensi Manusia

Baca Juga: Agen AI Mulai Jadi Tenaga Kerja, SailPoint Minta Perusahaan Batasi Hak Akses

Nezar menegaskan regulasi tidak diarahkan untuk menghambat inovasi. Kerangka aturan dibutuhkan agar pengembangan AI berlangsung dengan risiko yang terukur dan memberikan manfaat bagi masyarakat.

“Jangan takut dengan regulasi-regulasi yang diciptakan, tidak ada kehendak untuk mencekik perkembangan, ini hanya untuk membuat perkembangan teknologi itu bermanfaat bagi semuanya, risikonya bisa dimitigasi, dan kita bisa mendapatkan manfaat yang lebih besar,” pungkas Nezar.