Red Hat OpenShift AI Hadir Menjawab Tantangan AI untuk Open Hybrid Cloud

Red Hat, Inc. penyedia solusi open source  di dunia mengumumkan kemampua baru pada Red Hat OpenShift AI, yang memberikan fondasi yang konsisten, skalabel berdasarkan teknologi open source bagi pemimpin operasional IT sekaligus membawa ekosistem mitra khusus bagi para data scientist dan pengembang untuk menangkap inovasi AI. 

Untuk itu, Red Hat OpenShiftAI mendukung layanan  AI generatif dari IBM watsonx.ai, platform AI dari IBM yang dirancang untuk menskalakan aplikasi dan layanan cerdas di semua aspek enterprise, mendorong model fondasi generasi berikutnya.

Chris Wright, Chief Technology Officer dan senior vice president, Global Engineering, Red Hat mengatakan, “Model fondasi memberikan keuntungan nyata dan jelas bagi enterprise dalam hal pemanfaatan benefit AI, namun mereka masih membutuhkan investasi dipelatihan dan penyesuaian untukmemenuhi kebutuhan unik  enterprise. Visi Red Hat untuk enterprise AI membangun realitasyang sudah ada dengan Red Hat OpenShift AI, yang memberikan fondasi fleksibel dan skalabel untuk   melatih, maintain, menyempurnakan, dan benar-benar menggunakan model   fondasidalam produksi. Yang   terbaik adalah, OpenShift AI  tetap menjadi OpenShift, yang  artinya organisasi IT mempercayai dan memahaminya, dan bisa memperluas operasional AI/ML dari untuk memenuhi kebutuhan hari ini dan di masa yang akan datang.”

Saat Large Language Models (LLMs) seperti GPT-4 dan LlaMA menjadi  mainstream,  Pelanggan bisa menyempurnakan model komersial atau open source dengan data yang domain-specific untuk menjadikannya  lebih akurat.

Pelatihan awal model AI membutuhkan   infrastruktur besar, membutuhkan   platform  dan tool  khusus bahkan sebelum mempertimbangkan pelayanan, pengaturan dan pengelolaan model. Tanpa platform yang bisa memenuhi permintaan ini, organisasi seringkali memiliki keterbatasan dalam memanfaatkan AI/ML.

OpenShift AI menjawab tantangan ini dengan menyediakan konsistensi infrastruktur di seluruh pelatihan, penggelaran dan inferensi untuk melepaskan potensi AI. 

AI untuk open hybrid cloud 

Red Hat  OpenShift AI membantu menghilangkan  semua  penghalang  tersebut dengan menyediakan fondasi standar untuk mengkreasikan model produksi AI/ML, Kemudahan penggunaan dan pilihan penggelaran cloud-to-edge  dari Red Hat OpenShift. Juga bisa digunakan untuk menyempurnakan model  yang sudah ada, menghemat  biaya pelatihan model awal, time   to   value  dan memperluas penggunaan AI lebih dari sekadar untuk data scientist khusus

Red Hat OpenShift AI menyediakan beberapa penawaran mitra teknologi   pilihan termasuk Anaconda, IBM Watson Studio, Intel OpenVINO dan AI Analytics Toolkit, NVIDIA AI Enterprisedan Starburst. Ia juga menyediakan akses ke tambahan 30 mitra AI/ML tersertifikasi sebagaibagian dari ekosistem OpenShift.

Pelanggan dengan persyaratan regulasi dan compliance khusus, termasuk lingkungan yang berjarak dan terputus (air-gapped   and disconnected), bisa   mempersiapkan data, serta mengembangkan, melatih   dan   menggelar model di on-premise  menggunakan OpenShift AI. Pelanggan juga bisa mengembangkan model di public cloud, dan menggelarnya di on premiseatau di edge  menggunakan tooling dan antar   muka yang sama secara  konsisten, sehingga menyediakan   lingkungan hybrid MLOps unik,   yang memungkinkan kolaborasi   antaraoperasional IT, data science, dan pengembang aplikasi. 

Fondasi OpenShift AI yang telah terbukti memungkinkan pelanggan melakukan penskalaan dengan lebih andal untuk melatih model fondasi menggunakan fitur-fitur akselerasi native GPUO penShift di on-premise atau melalui layanan cloud.

Peningkatan terbaru untuk Red Hat OpenShift AI di antaranya:

• Pipelines  penggelaran  untuk pelacakan  eksperimen  AI/ML  dan  alur  kerja  MLterotomatisasi, yang  membantu  data  scientist  dan  pengembang aplikasi  cerdas melakukan iterasi pada   proyek machine learning  secara   cepat dan menanamkan otomatisasi ke penggelaran dan pembaharuan aplikasi. 
• Penyajian model sekarang   termasuk dukungan GPU untuk   inferensi, dan custom model serving runtime, yang meningkatkan performa inferensi dan penggelaran modelfondasi yang lebih baik.
• Pemantauan model  memungkinkan organisasi untuk mengelola performa dan matrikoperasional pada dashboard yang tersentralisasi.