Couchbase mengumumkan kolaborasinya dengan NVIDIA untuk mempercepat pengembangan aplikasi berbasis kecerdasan buatan (AI) agentic.

Dengan dukungan NVIDIA AI Enterprise, termasuk perangkat pengembangannya seperti Neural Models framework (NeMo) dan NVIDIA Inference Microservices (NIM), layanan AI Capella kini semakin canggih dalam mendukung alur kerja AI perusahaan.

Melalui integrasi ini, Capella menambahkan dukungan untuk NIM dalam layanan model AI-nya dan memberikan akses ke NeMo, yang memungkinkan pengembang membangun, melatih, dan menyempurnakan model bahasa khusus.

Dengan teknologi ini, perusahaan dapat lebih mudah mengelola kurasi data, pelatihan model, kustomisasi model, serta alur kerja retrieval-augmented generation (RAG) untuk meningkatkan kualitas interaksi berbasis AI.

Penyederhanaan Alur Kerja AI yang Kompleks

Berbeda dengan basis data konvensional yang hanya mendukung pencarian vektor tanpa memfasilitasi proses pembuatan dan pemanfaatannya, Couchbase Capella menawarkan solusi menyeluruh.

Platform ini mengelola data operasional, analitik, AI, dan seluler dalam satu ekosistem, menyederhanakan pemanfaatan data untuk kebutuhan AI.

Alur kerja AI yang kompleks sering kali menjadi tantangan bagi pengembang, mulai dari persiapan data hingga validasi respons. Dengan solusi gabungan dari Couchbase dan NVIDIA AI Enterprise, pengembang kini dapat lebih mudah mengelola:

• Persiapan data dan penyusunan vektor

• Rekayasa prompt dan caching

• Interaksi model, termasuk pada perangkat

• Penyimpanan transkrip dan validasi respons

• Pengelolaan guardrail untuk mencegah penyimpangan respons AI

• Tata kelola agen dan penggunaan ulang kode

Dengan peningkatan pada arsitektur RAG, Capella kini memungkinkan perusahaan untuk mengembangkan aplikasi AI dengan throughput tinggi secara lebih efisien, sambil mempertahankan fleksibilitas model. Selain itu, pengembang dapat mengakses lebih dari 30 model dari berbagai penyedia seperti BigCode, Microsoft, NVIDIA, Mistral, Meta, dan Google melalui NIM.

Meningkatkan Keandalan AI di Dunia Bisnis

Kepercayaan perusahaan terhadap AI masih menjadi tantangan utama, terutama dalam memastikan keandalan dan kepatuhan sistem terhadap regulasi. Salah satu tantangan terbesar adalah mencegah penyimpangan model, seperti kebocoran data pribadi (PII) atau halusinasi AI yang dapat mengubah hasil analisis dan kesimpulan yang diberikan.

Tidak hanya itu, model AI sering kali kesulitan mempertahankan konteks percakapan yang tepat dalam sesi yang berlangsung lama. Dengan solusi dari Couchbase dan NVIDIA, perusahaan dapat membangun guardrails yang lebih ketat untuk memastikan agen AI tetap fokus pada tugasnya dan memberikan respons yang lebih akurat.

Menurut Genie Yuan, Regional Vice President, APAC Japan, Couchbase, “Perusahaan memerlukan platform data yang terpadu dan berkinerja tinggi untuk mendukung upaya AI mereka dan mengelola siklus hidup aplikasi secara penuh. Dengan mengintegrasikan NVIDIA NIM ke dalam layanan AI Capella, kami memberikan fleksibilitas kepada pelanggan untuk menjalankan model AI pilihan mereka secara aman dan terkelola, sambil meningkatkan kinerja dan integrasi antara AI dengan data transaksional serta analitik.” Terang Genie.

Solusi AI yang Aman dan Optimal

Genie juga menyampaikan bahwa solusi AI yang aman juga diperlukan untuk mengoptimalakn kinerja. Menurutnya, solusi gabungan ini menawarkan pendekatan yang lebih aman bagi perusahaan dalam membangun dan menerapkan aplikasi AI.

NVIDIA AI Enterprise menyediakan Large Language Models (LLMs) yang telah diuji sebelumnya, serta perangkat seperti NVIDIA NeMo Guardrails yang membantu memastikan kepatuhan terhadap regulasi sekaligus mencegah halusinasi AI.

Dengan caching dan penyimpanan transkrip, sistem dapat mempertahankan performa tinggi dengan latensi rendah—sangat penting dalam implementasi agen AI.

Selain itu, dengan berjalan di layanan mikro NIM dari NVIDIA yang telah diuji secara ketat, perusahaan dapat memenuhi kebutuhan privasi, skalabilitas, dan performa dalam penyebaran aplikasi AI agentic.

Kolaborasi ini tidak hanya mempercepat implementasi AI tetapi juga membantu DevOps dalam mengelola AgentOps—mulai dari penyebaran hingga optimasi model. Bagi para pemimpin bisnis, solusi ini memungkinkan perusahaan untuk mendapatkan ROI maksimal dari investasi AI mereka dengan menggabungkan keunggulan performa Couchbase Capella dengan infrastruktur AI berbasis GPU dari NVIDIA.

Dengan teknologi yang lebih cepat, aman, dan mudah diterapkan, perusahaan kini dapat lebih percaya diri dalam memanfaatkan AI untuk mendukung pertumbuhan bisnis mereka di era digital.