Bos Microsoft Minta AI Punya Rem Darurat, Manusia Harus Bisa Menghentikannya

CEO Microsoft Satya Nadella menekankan pentingnya mekanisme penghentian darurat dalam pengembangan kecerdasan buatan (AI) agar manusia tetap dapat mengendalikan sistem ketika diperlukan. Mekanisme tersebut dinilai penting untuk mengantisipasi risiko dari teknologi AI yang semakin canggih dan sulit diprediksi.

Mengutip CNBC International, Nadella menyebut mekanisme itu sebagai semacam “rem darurat” bagi AI. Menurutnya, sistem AI perlu dirancang dengan pengamanan yang memungkinkan manusia melakukan intervensi apabila diperlukan.

“Kita perlu melingkupi model non-deterministik dengan desain sistem yang kuat dan deterministik, kontrol manusia, dan prosedur operasi yang andal, serta menetapkan standar industri di mana standar yang ada belum memadai,” kata Nadella dalam unggahan di platform X pada 9 Oktober 2026.

Model non-deterministik merupakan sistem yang dapat menghasilkan keluaran berbeda meskipun menerima masukan serupa. Karakteristik tersebut membuat pengembangan AI membutuhkan pengawasan tambahan agar perilakunya tetap dapat dipantau dan dikendalikan.

Nadella juga menekankan pentingnya observabilitas, yakni kemampuan untuk menelusuri dan memahami tindakan sistem AI. Selain itu, pengujian berkelanjutan dan pengawasan independen diperlukan untuk memastikan teknologi tersebut tetap berada dalam batas yang dapat dikendalikan.

“Sistem Super Intelligence yang paling dapat dipercaya bukanlah sistem dengan model yang paling kita percayai, melainkan sistem yang memungkinkan kita untuk skeptis terhadap model tersebut,” ujar Nadella.

Pernyataan Nadella muncul di tengah perdebatan industri teknologi mengenai pesatnya pengembangan AI dan kesiapan mekanisme keselamatannya. Sejumlah tokoh industri, termasuk pendiri Microsoft Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan CEO SpaceX Elon Musk, turut terlibat dalam perdebatan mengenai risiko dan tata kelola AI.

Baca Juga: Pasar AI Tembus US$1,5 Triliun, Kadin Soroti Ketergantungan Chip Asing

Baca Juga: Perang Bisnis AI Makin Ketat, AREA31 Gandeng Perusahaan Eropa Luncurkan AiPintar

Baca Juga: SpaceX Siapkan US$40 Miliar untuk Beli Chip AI Nvidia

Kekhawatiran juga disampaikan oleh kalangan peneliti yang terlibat langsung dalam pengembangan teknologi tersebut. Sekitar sebulan sebelumnya, seorang peneliti AI Anthropic dilaporkan mengundurkan diri dan memperingatkan bahwa pekerjaan yang tengah dilakukan perusahaan berpotensi membahayakan kehidupan manusia.

Pada hari yang sama, seorang pemimpin tim alignment Anthropic yang berfokus pada keselamatan AI juga menyampaikan kekhawatiran mengenai potensi risiko teknologi tersebut. Ia memperkirakan kemungkinan AI memusnahkan umat manusia dalam dekade mendatang mencapai lebih dari 10 persen.

Sementara itu, Presiden Amerika Serikat Donald Trump berulang kali menekankan pentingnya mempertahankan keunggulan industri AI AS atas China. Pendekatan tersebut menempatkan daya saing industri sebagai salah satu prioritas, alih-alih menjadikan risiko eksistensial sebagai fokus utama. Trump juga memperkenalkan inisiatif AI Force yang diarahkan untuk mendukung industri sekaligus menghadapi penggunaan teknologi untuk tujuan berbahaya.