Deepfake Makin Sulit Dibedakan, Komdigi Dorong Pengawasan AI Diperketat

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menegaskan pentingnya penerapan etika kecerdasan buatan (AI) yang lebih konkret dan terukur di tengah perkembangan teknologi AI yang semakin pesat.

Menurut Nezar, perkembangan AI kini telah melampaui fase generative AI dan bergerak menuju agentic AI yang memiliki kemampuan melakukan penalaran serta pengambilan keputusan secara mandiri. Bahkan, dalam waktu dekat teknologi physical AI dan quantum AI diperkirakan akan mulai memasuki pasar.

"Perkembangan AI begitu cepat pada hari ini, kita tidak lagi bicara soal generatif AI, kita sudah melompat ke agentik AI, dan tidak lama lagi ada physical AI, lalu di tengah-tengah itu kita mendengar dari banyak tech companies, global tech companies, bahwa kuantum AI akan segera meluncur ke market," ujar Nezar dalam Indonesia Ethical AI Summit, dikutip dari siaran langsung YouTube, Rabu (17/6/2026).

Ia menilai hal ini tentu akan membawa banyak dampak di semua sektor.

Disamping itu, kemajuan tersebut membawa dampak positif serta memunculkan risiko baru yang perlu diantisipasi. Salah satu tantangan utama adalah kemampuan agentic AI yang dapat menjalankan fungsi tertentu secara otonom sehingga berpotensi bertindak di luar otoritas yang diberikan.

Karena itu, Nezar menilai penerapan prinsip human in the loop atau keterlibatan manusia dalam proses pengambilan keputusan tetap diperlukan untuk menjaga akuntabilitas sistem AI.

Selain itu, ia menyoroti meningkatnya penyalahgunaan AI oleh pelaku kejahatan siber. Menurutnya, teknologi seperti deepfake telah dimanfaatkan untuk melakukan berbagai modus penipuan digital yang semakin sulit dikenali masyarakat.

"Sekarang suara kita bisa ditiru, gambarnya wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat-sangat mulus," kata Nezar.

Nezar menyebut fenomena tersebut menunjukkan perlunya perubahan pendekatan dalam tata kelola AI. Jika sebelumnya penerapan etika AI lebih bersifat sukarela, kini dunia mulai bergerak menuju pembuktian nyata atas prinsip-prinsip etika yang diterapkan dalam pengembangan teknologi.

Prinsip seperti transparansi, akuntabilitas, dan keamanan, lanjutnya, tidak cukup hanya menjadi komitmen di atas kertas, melainkan harus diwujudkan dalam desain dan implementasi produk AI atau ethics by design.

Ia juga menyoroti tantangan yang muncul dari penggunaan agentic AI dalam sektor layanan publik maupun jasa keuangan. Dalam sejumlah kasus, sistem AI dapat saling berinteraksi dengan AI lain untuk menjalankan berbagai proses bisnis secara otomatis, sehingga persoalan delegasi otoritas dan akuntabilitas menjadi semakin penting.

Nezar mencontohkan simulasi penggunaan agentic AI pada industri penerbangan yang berhasil mempercepat penanganan penumpang saat terjadi gangguan penerbangan. Namun, sistem tersebut juga sempat menghasilkan kesalahan penempatan penumpang sehingga implementasinya perlu ditinjau ulang.

Untuk itu, pemerintah mendorong penerapan pendekatan shifting left, yakni memastikan aspek etika dan mitigasi risiko sudah dipertimbangkan sejak tahap awal pengembangan teknologi.

Menurut Nezar, standar etika memang tidak memiliki kekuatan hukum secara langsung. Namun, kepatuhan terhadap standar tersebut dapat menjadi salah satu pertimbangan penting dalam proses audit maupun penanganan insiden apabila terjadi pelanggaran atau kerugian akibat penggunaan AI.

Di sisi lain, Nezar menilai AI kini telah menjadi salah satu faktor penentu daya saing dan pengaruh suatu negara. Oleh sebab itu, Indonesia perlu mempercepat pembangunan ekosistem AI nasional, mulai dari penguatan infrastruktur digital, kapasitas komputasi, pusat data, hingga pengembangan talenta digital.

"AI ini akan mengambil begitu banyak peran dalam kehidupan kita sehari-hari dan karena itu Indonesia harus siap," tuturnya.