Merinding Disko! Pakar AI Peringatkan Surat yang Ditandatangani Elon Musk: Secara Harfiah Semua Orang di Bumi Akan Mati

Warta Ekonomi, Jakarta -

Seorang pakar kecerdasan buatan dengan pengalaman lebih dari dua dekade mempelajari keamanan AI saat ini. Ia mengatakan surat terbuka yang menyerukan moratorium enam bulan untuk mengembangkan sistem AI yang kuat tidak cukup.

Ialah Eliezer Yudkowsky, ahli teori keputusan di Machine Intelligence Research Institute, menulis dalam opini baru-baru ini bahwa jeda enam bulan untuk mengembangkan sistem AI yang lebih kuat daripada GPT-4, yang diminta oleh CEO Tesla Elon Musk dan ratusan inovator serta pakar lainnya meremehkan keseriusan situasi saat ini.

Dia akan melangkah lebih jauh, menerapkan moratorium pada model pembelajaran AI besar baru yang tidak terbatas dan mendunia.

Baca Juga: Elon Musk Minta Manusia Hidup Berdampingan dengan Mesin AI Kalau Mau Bertahan Hidup

Melansir Fox Business di Jakarta, Jumat (31/3/23) surat yang dikeluarkan oleh Future of Life Institute dan ditandatangani oleh lebih dari 1.000 orang, termasuk Musk dan salah satu pendiri Apple Steve Wozniak, berpendapat bahwa protokol keselamatan perlu dikembangkan oleh pengawas independen untuk memandu masa depan sistem AI.

"Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola," kata surat itu. Yudkowsky yakin ini tidak cukup.

"Masalah utamanya bukanlah kecerdasan 'persaingan manusia' (seperti yang tertulis di surat terbuka); itu yang terjadi setelah AI mencapai kecerdasan yang lebih pintar dari manusia," tulis Yudkowsky untuk Waktu.

"Banyak peneliti mendalami masalah ini, termasuk saya sendiri, berharap bahwa hasil yang paling mungkin dari membangun AI yang sangat cerdas, dalam situasi apa pun yang jauh seperti saat ini, adalah bahwa setiap orang di Bumi akan mati," tegasnya.

Bagi Yudkowsky, masalahnya adalah AI yang lebih cerdas daripada manusia mungkin tidak mematuhi penciptanya dan tidak peduli dengan kehidupan manusia.

"Visualisasikan seluruh peradaban alien, berpikir dengan kecepatan jutaan kali manusia, awalnya terbatas pada komputer - di dunia makhluk yang, dari sudut pandangnya, sangat bodoh dan sangat lambat," tulisnya.

Enam bulan bukanlah waktu yang cukup untuk menghasilkan sebuah rencana.

"Butuh lebih dari 60 tahun sejak gagasan Kecerdasan Buatan pertama kali diusulkan dan dipelajari, dan bagi kami untuk mencapai kemampuan saat ini. Memecahkan keamanan kecerdasan manusia super, bukan keamanan yang sempurna, keamanan dalam arti 'tidak membunuh semua orang secara harfiah', bisa memakan waktu paling tidak setengah dari waktu itu."

Sebaliknya, Yudkowsky mengusulkan kerja sama internasional, bahkan antara saingan seperti AS dan China, untuk menghentikan pengembangan sistem AI yang kuat. Dia mengatakan ini lebih penting daripada mencegah pertukaran nuklir penuh, dan bahwa negara-negara bahkan harus mempertimbangkan untuk menggunakan senjata nuklir jika itu diperlukan untuk mengurangi risiko pelatihan AI yang besar.

"Tutup semuanya," tulis Yudkowsky. "Matikan semua klaster GPU besar (gudang komputer besar tempat AI paling kuat disempurnakan). Matikan semua pelatihan besar yang berjalan. Batasi berapa banyak daya komputasi yang boleh digunakan siapa pun dalam melatih sistem AI, dan memindahkannya ke bawah selama beberapa tahun mendatang untuk mengkompensasi algoritme pelatihan yang lebih efisien. Tidak ada pengecualian untuk pemerintah dan militer."

Peringatan drastis Yudkowsky datang ketika perangkat lunak kecerdasan buatan terus meningkat popularitasnya.

ChatGPT OpenAI adalah chatbot kecerdasan buatan yang baru-baru ini dirilis yang mengejutkan pengguna dengan kemampuannya membuat lagu, membuat konten, dan bahkan menulis kode.

"Kita harus berhati-hati di sini," kata CEO OpenAI Sam Altman tentang pendirian perusahaannya awal bulan ini. "Saya pikir orang seharusnya senang bahwa kami sedikit takut akan hal ini."