Komdigi Minta Perusahaan Waspada, Agen AI Bisa Bertindak di Luar Batas

Wakil Menteri Komunikasi dan Digital Nezar Patria mendorong perusahaan menerapkan prinsip Know Your Agent (KYA) untuk mengantisipasi risiko penggunaan agentic artificial intelligence (AI), terutama terkait penyalahgunaan data dan tindakan sistem yang melampaui batas kewenangannya.

Nezar mengatakan, pendekatan tersebut perlu diperhatikan seiring meningkatnya penggunaan agen AI dalam layanan pelanggan, transaksi, dan berbagai proses bisnis. Berbeda dari AI generatif yang umumnya menghasilkan respons berdasarkan perintah pengguna, agentic AI dapat memproses data dan menjalankan tindakan secara mandiri berdasarkan algoritma serta otorisasi yang diberikan.

“Bukan lagi KYC, Know Your Customer, tapi harus ada KYA, Know Your Agent,” ujar Nezar dalam Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat, Kamis (15/10/2026).

Menurut Nezar, kemampuan agen AI mengambil keputusan dan bertindak secara mandiri turut meningkatkan risiko bagi perusahaan. Karena itu, perusahaan perlu memahami identitas, kepemilikan, serta batas kewenangan setiap agen AI yang berinteraksi dengan sistem bisnisnya.

“Dengan mesin bisa membuat keputusan sendiri, risiko meningkat,” katanya.

Nezar mengingatkan, agen AI berpotensi menjalankan tindakan yang tidak sesuai dengan aturan internal perusahaan maupun ketentuan yang berlaku apabila akses dan kewenangannya tidak dikelola secara tepat.

“Kadang ada agentic AI yang mungkin dia akan mem-bypass sejumlah peraturan-peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak,” ungkapnya.

Risiko tersebut juga muncul ketika perusahaan mulai berhadapan dengan agen AI milik pihak lain, baik untuk keperluan komunikasi maupun transaksi bisnis. Dalam kondisi itu, perusahaan tidak hanya perlu mengenali pelanggan sebagai individu, tetapi juga memahami agen digital yang bertindak mewakili mereka.

“Karena nanti yang akan berhubungan dengan Bapak/Ibu sekalian bukan lagi orang, ada juga agentic AI lain yang akan bertanya ataupun akan masuk, atau individu yang punya agentic AI,” ujarnya.

Selain pengelolaan kewenangan agen AI, Nezar menekankan pentingnya pelindungan data pribadi dalam penerapan teknologi tersebut. Menurutnya, potensi kebocoran dan penyalahgunaan data tidak hanya bergantung pada keamanan sistem, tetapi juga pada bagaimana akses terhadap data diberikan kepada teknologi yang digunakan perusahaan.

Untuk itu, ia mendorong penerapan prinsip security by design dan privacy by design sejak tahap perancangan sistem. Kedua prinsip tersebut perlu menjadi bagian dari upaya perusahaan memastikan pemrosesan data berlangsung sesuai dengan ketentuan pelindungan data pribadi.

Nezar menambahkan, pemerintah terbuka terhadap masukan dari pelaku usaha mengenai berbagai persoalan yang muncul dalam penerapan teknologi AI.

Masukan tersebut dinilai penting untuk membantu pemerintah mengidentifikasi potensi risiko sekaligus mendalami kebutuhan pengaturan teknis yang relevan dengan perkembangan teknologi kecerdasan buatan.