Akamai Gandeng NVIDIA Luncurkan AI Grid Terdistribusi di 4.400 Lokasi Edge
Kredit Foto: Akamai
Teknologi AI Grid ini mengandalkan orkestrator cerdas yang bertindak sebagai perantara real-time untuk permintaan AI.
Sistem ini dirancang untuk mengoptimalkan 'tokenomics.' termasuk efisiensi biaya per token, waktu respons awal, dan kapasitas pemrosesan (throughput).
Akamai dapat secara drastis mengurangi biaya inferensi dengan menyesuaikan beban kerja secara otomatis ke tingkat komputasi yang tepat.
Pengatur istem (orchestrator) menerapkan teknik seperti penyimpanan cache semantik dan routing cerdas, untuk mengarahkan permintaan ke sumber daya yang sesuai, serta mengalokasikan siklus GPU premium untuk beban kerja yang membutuhkannya.
“Hal ini didukung oleh Akamai Cloud, yang dibangun di atas infrastruktur open source dengan kuota lalu lintas keluar yang besar untuk mendukung operasional AI yang intensif data dalam skala besar,” terangnya.
Adam mengatakan, sudio game dapat menghadirkan interaksi NPC berbasis AI yang menjaga pengalaman imersif pemain dalam hitungan milidetik.
Mau Berita Terbaru Lainnya dari Warta Ekonomi? Yuk Follow Kami di Google News dengan Klik Simbol Bintang.
Penulis: Cita Auliana
Editor: Yaspen Martinus
