Data Streaming untuk Mempercepat Pengembangan Aplikasi AI Real-Time

Confluent Inc, pionir dalam data streaming mengumumkan Data Streaming untuk AI, sebuah inisiatif untuk mempercepat pengembangan aplikasi AI secara real-time untuk organisasi.

Mencapai AI secara real time menuntut lebih dari sekadar algoritme yang cepat; AI membutuhkan data yang dapat dipercaya dan relevan yang disajikan pada saat itu juga untuk mendapatkan wawasan yang lebih cerdas dan lebih cepat.

Untuk membantu perusahaan membuka potensi penuh AI dengan data kontekstual terbaru dari seluruh bisnis mereka, Confluent memperluas kemitraan dengan perusahaan-perusahaan terkemuka di bidang AI dan vector database, termasuk MongoDB, Pinecone, Rockset, Weaviate dan Zilliz.

Perusahaan-perusahaan ini juga mendemonstrasikan inovasi produk yang menggabungkan kemajuan terbaru dalam AI ke dalam platformnya, dengan kemampuan seperti asisten AI generatif yang dapat membantu menghasilkan kode dan menjawab pertanyaan seputar kegunaan dari data streaming.

Jay Kreps, CEO and Co-Founder, Confluent dalam keterangan media, Rabu (27/9/2023) mengatakan, data streaming adalah teknologi dasar untuk masa depan AI.

Menurutnya aliran data yang diperkaya dan dapat dipercaya adalah kunci untuk membangun aplikasi AI generasi mendatang yang akurat dan memiliki kaya akan konteks real-time dan dibutuhkan oleh pengguna modern.

"Kami ingin mempermudah setiap perusahaan untuk membangun aplikasi AI yang kuat dan memanfaatkan ekosistem mitra kami yang luas serta keahlian kami dalam hal data streaming,” ujar Jay Kreps.

Meskipun kecanggihan AI sudah terdengar selama beberapa tahun ini, saat ini mulai digemari lagi berkat terobosan di seluruh reusable large language models (LLM), model pembelajaran mesin yang lebih mudah diakses dan kemampuan GPU yang lebih kuat.

Hal ini telah mendorong berbagai organisasi untuk mempercepat investasi AI mereka. Namun, tantangan mendasar dalam AI modern adalah kurangnya akses ke data real-time yang relevan yang dibutuhkan aplikasi AI secara tepat waktu, aman, dan dapat diskalakan.

Selama satu dekade terakhir, AI sangat bergantung pada data historis, diintegrasikan dengan pipeline point-to-point berbasis batch yang lambat yang membuat data menjadi basi dan tidak akurat pada saat data tiba.

Hal tersebut tidak lagi memadai untuk penggunaan AI real-time yang sedang dijalankan oleh bisnis saat ini, seperti deteksi penipuan prediktif, asisten perjalanan AI generatif, atau rekomendasi yang dipersonalisasi. Masalah yang lebih parah lagi adalah masalah tata kelola data dan skalabilitas yang buruk.

Akibatnya, laju kemajuan AI terhambat karena pengembang terus-menerus mengatasi masalah dengan hasil yang sudah ketinggalan zaman dan gambaran AI yang tidak dapat dipercaya. Ini bukan hanya rintangan teknis tetapi ini adalah penghalang bagi inovasi AI.

Stewart Bond, Data Intelligence and Integration Software, IDC menambahkan, meskipun ada pertumbuhan yang signifikan dalam jumlah perusahaan yang bereksperimen dengan AI generatif, banyak yang menghadapi hambatan dari infrastruktur data yang tidak valid dan tidak memiliki ketersediaan data real-time dan kepercayaan.

Manajemen data adalah area investasi yang paling penting karena organisasi membangun arsitektur intelijen yang memberikan wawasan dalam skala besar, mendukung pembelajaran kolektif dan menumbuhkan kegunaan data.

"Mereka yang melakukannya dengan benar telah melihat peningkatan 4x lipat lebih baik pada hasil bisnisnya dengan menghilangkan hambatan pada ketersediaan data real-time dan kepercayaan melalui data streaming, tata kelola, keamanan, dan integrasi, sehingga sepadan dengan perjalanannya,” jelas Stewart Bond.

Aplikasi AI modern membutuhkan berbagai teknologi dan data dari berbagai domain untuk disatukan dengan mulus.

Inisiatif Confluent Data Streaming untuk AI bertujuan untuk membantu organisasi membangun dan meningkatkan aplikasi AI generasi berikutnya dengan cepat dari sumber kebenaran real-time untuk semua data operasional dan analitik, di mana pun data tersebut berada.

David Ferrucci, Founder and CEO, Elemental Cognition menambahkan, pihaknya membangun platform AI yang dirancang untuk penggunaan yang sangat penting, yaitu dalam industri di mana bisnis tidak boleh melakukan kesalahan.

Mesin penalaran interaktif kami memanfaatkan pasokan data yang terus menerus yang dapat diandalkan, dapat dipercaya, dan terkini.

"Platform data streaming Confluent memungkinkan hal tersebut dan memungkinkan kami untuk memadupadankan data dari sistem yang berbeda dan mengoptimalkannya untuk mendapatkan wawasan dan jawaban yang kaya secara kontekstual dalam real-time,” jelas David Ferrucci.

Sebagai bagian dari peluncuran ini, Confluent telah memperluas kemitraan dalam bidang AI dan juga berkomitmen untuk menghadirkan lebih banyak kemampuan AI di dalam platformnya Confluent untuk mempermudah pengembangan aplikasi real-time.

Kemitraan yang diperluas

- Terhubung dengan Mitra Teknologi Confluent: Confluent bermitra dengan MongoDB, Pinecone, Rockset, Weaviate dan Zilliz untuk menyediakan data kontekstual secara real-time dari mana saja untuk vector database mereka.

Vector database sangat penting karena dapat menyimpan, mengindeks dan menambah kumpulan data besar dalam format yang dibutuhkan oleh teknologi AI seperti LLM.

Melalui integrasi ini, aliran data yang dikelola sepenuhnya oleh Confluent Cloud sekarang dapat diakses langsung dalam platform mitra ini, sehingga lebih mudah untuk menggunakan data real-time untuk aplikasi bertenaga AI. Ini merupakan permulaan dari perluasan kemitraan Confluent di bidang AI melalui program Connect with Confluent.

- Mitra Public Cloud: Confluent telah memlanjutkan perjanjian kemitraan strategisnya dengan Google Cloud dan Microsoft Azure untuk mengembangkan integrasi, Proof-of-Concept (POC) dan program go-to-market dalam upaya memasuki pasar di sekitar AI.

Sebagai contoh, Confluent berencana untuk memanfaatkan kemampuan AI generatif Google Cloud untuk meningkatkan wawasan bisnis dan efisiensi operasional bagi pelanggan ritel dan layanan keuangan.

Selain itu, dengan Azure Open AI dan Azure Data Platform, Confluent berencana untuk membuat Copilot Solution Template yang memungkinkan asisten AI untuk melakukan transaksi bisnis dan memberikan pembaruan secara real-time, sehingga dapat bermanfaat bagi industri seperti maskapai penerbangan dan transportasi.

- Mitra Layanan: Confluent meluncurkan arsitektur yang siap untuk POC dengan Allata dan iLink untuk menjangkau teknologi Confluent dan mitra cloud dalam menawarkan solusi yang disesuaikan dengan penggunaan vertikal.

Mengembangkan, menguji, menerapkan dan menyetel aplikasi AI ini membutuhkan keahlian khusus dan para mitra ini memberikan keahliannya untuk mengurangi hambatan dalam membangun aplikasi AI real-time, yang secara drastis mempercepat waktu untuk mendapatkan nilai.

Inovasi Produk

- Confluent AI Assistant: Untuk membantu perusahaan mendapatkan jawaban kontekstual yang mereka butuhkan dalam mempercepat inovasi teknik di Confluent, Confluent AI Assistant dapat mengubah input bahasa alami, seperti "Apa pengeluaran termahal saya bulan lalu?" atau "Berikan saya permintaan API untuk menghasilkan pesan ke topik pesanan saya" menjadi saran yang bermanfaat dan kode akurat yang spesifik untuk penerapannya.

Hal ini dimungkinkan dengan menggabungkan informasi yang tersedia untuk umum, seperti dokumentasi Confluent dengan informasi pelanggan yang kontekstual untuk memberikan tanggapan yang spesifik dan tepat waktu. Fitur ini akan tersedia untuk pelanggan Confluent Cloud pada tahun 2024.

- AI for Apache Flink SQL: Selama beberapa bulan ke depan, Confluent akan mengumumkan serangkaian pembaruan pada layanan Flink untuk Confluent Cloud yang baru saja diumumkan, untuk membawa kemampuan AI ke dalam Flink SQL.

Dalam acara Confluent Current, sebuah acara industri data streaming, Confluent akan mendemonstrasikan bagaimana Flink dapat melakukan panggilan OpenAI API secara langsung di dalam Flink SQL.

Hal ini membuka penggunaan yang tak terbatas, seperti menilai sentimen ulasan produk atau meringkas deskripsi item vendor. Ini akan membantu meringankan kompleksitas pemrosesan aliran data, mempercepat waktu untuk mendapatkan wawasan.