Akamai Gandeng NVIDIA Luncurkan AI Grid Terdistribusi di 4.400 Lokasi Edge

Akamai Technologies meluncurkan inovasi terbaru di bidang kecerdasan buatan (AI), melalui implementasi global desain referensi NVIDIA AI Grid.

Teknologi ini memungkinkan orkestrasi cerdas untuk inferensi AI, terdistribusi di lebih dari 4.400 lokasi edge di seluruh dunia.

Chief Operating Officer sekaligus General Manager Cloud Technology Group Akamai Adam Karon menjelaskan, selama ini 'pabrik AI' (AI factory) dirancang untuk kebutuhan pelatihan model skala besar dengan infrastruktur terpusat.

Namun, kebutuhan baru seperti video real-time, AI fisik, dan personalisasi berbasis konektivitas tinggi, menuntut proses inferensi dilakukan lebih dekat ke pengguna.

“Orkestrasi cerdas AI Grid kami memberikan cara bagi pabrik AI untuk memperluas inferensi ke luar, memanfaatkan arsitektur terdistribusi yang sama seperti yang telah merevolusi pengiriman konten untuk mengarahkan beban kerja AI ke 4.400 lokasi."

"Dengan biaya yang tepat, pada waktu yang tepat,” tutur Adam dalam keterangan resmi di Jakarta, Rabu (18/3/2026).

Teknologi AI Grid ini mengandalkan orkestrator cerdas yang bertindak sebagai perantara real-time untuk permintaan AI.

Sistem ini dirancang untuk mengoptimalkan 'tokenomics.' termasuk efisiensi biaya per token, waktu respons awal, dan kapasitas pemrosesan (throughput).

Akamai dapat secara drastis mengurangi biaya inferensi dengan menyesuaikan beban kerja secara otomatis ke tingkat komputasi yang tepat.

Pengatur istem (orchestrator) menerapkan teknik seperti penyimpanan cache semantik dan routing cerdas, untuk mengarahkan permintaan ke sumber daya yang sesuai, serta mengalokasikan siklus GPU premium untuk beban kerja yang membutuhkannya. 

“Hal ini didukung oleh Akamai Cloud, yang dibangun di atas infrastruktur open source dengan kuota lalu lintas keluar yang besar untuk mendukung operasional AI yang intensif data dalam skala besar,” terangnya. 

Adam mengatakan, sudio game dapat menghadirkan interaksi NPC berbasis AI yang menjaga pengalaman imersif pemain dalam hitungan milidetik.

Selain itu, lembaga keuangan dapat melakukan deteksi penipuan yang dipersonalisasi, dan memberikan rekomendasi pemasaran pada saat antara login dan tampilan layar pertama.

Penyiar dapat mentranskode dan menyulihsuarakan konten secara real- time untuk pemirsa global. 

“Hasil ini didukung oleh jaringan edge Akamai yang tersebar secara global dengan lebih dari 4.400 lokasi yang dilengkapi caching terintegrasi, komputasi edge tanpa server, dan konektivitas berkinerja tinggi yang memproses permintaan pada titik kontak pengguna, sehingga menghindari  latensi  bolak-balik  dari  cloud  yang  bergantung  pada  lokasi  asal,” beber Adam.

Untuk mendukung beban kerja AI yang lebih kompleks, Akamai juga mengandalkan klaster GPU berskala besar yang didukung teknologi terbaru dari NVIDIA, termasuk arsitektur Blackwell.

Kluster GPU Akamai yang terdiri dari ribuan unit, yang didukung oleh GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, menyediakan daya komputasi yang terkonsentrasi untuk beban kerja AI terberat, sehingga melengkapi jaringan edge terdistribusi dengan skalabilitas terpusat.

Global VP Business Development Telco NVIDIA Chris Penrose menyatakan, integrasi AI Grid menciptakan kontinum komputasi dari pusat data hingga edge.

Dengan dukungan NVIDIA AI Enterprise serta teknologi seperti BlueField DPU, sistem ini mampu mengelola kebutuhan layanan (SLA) secara kompleks di berbagai lokasi.

Baca Juga: Pemerintah Siapkan Regulasi dan Peta Jalan untuk Tata Kelola AI yang Etis

Melalui kombinasi infrastruktur cloud inti dan jaringan edge, Akamai menghadirkan platform yang fleksibel untuk berbagai kebutuhan, mulai dari inferensi multimodal hingga pemrosesan pasca-pelatihan model AI.

“Dengan mengimplementasikan NVIDIA AI Grid, Akamai sedang membangun jembatan penghubung bagi AI generatif, AI agen, dan AI fisik, sehingga kecerdasan dapat diterapkan langsung pada data untuk membuka peluang bagi gelombang baru aplikasi real-time,” tutur Chris. (*)