Liputan6.com, Jakarta - Dalam konferensi Hot Chips pada Selasa, 25 Agustus 2026, OpenAI memberikan rincian performa Jalapeno, termasuk hasil pengujian benchmark.
Saat diuji menggunakan InferenceX dari SemiAnalysis, chip ini mencatat jumlah token per pengguna serta throughput per kilowatt lebih tinggi melampaui prosesor inferensi terbaik saat ini.
Kepala Bagian Perangkat Keras OpenAI, Richard Ho, mengatakan hasil pengujian Jalapeno menunjukkan kinerja yang sangat signifikan. Demikian sebagaimana dikutip dari TechCrunch, Kamis (27/8/2026).
“Jalapeno mampu menangani lebih banyak beban kerja kecerdasan buatan (Artificial Intelligence/AI) per unit daya, sekaligus memangkas waktu respons. Meskipun sistem ini melayani banyak pelanggan, latensinya akan tetap rendah,” ia menjelaskan.
Perlu dicatat, keandalan tersebut dibandingkan dengan sistem Nvidia Blackwell. Namun, persaingan bakal semakin memanas ketika Jalapeno mulai diproduksi secara massal. Ho memperkirakan akan meluncurkan chip ini dalam jumlah terbatas pada akhir 2026, sebelum disebarluaskan pada 2027.
Ketika pertama kali diumumkan pada Oktober 2025, Jalapeno dikembangkan bersama model AI milik OpenAI sendiri beserta kerja sama dengan Broadcom.
Chip ini diproyeksikan sebagai platform lintas generasi yang mengintegrasikan produk AI, model, chip, hingga memori.
Berkat pendekatan full-stack, OpenAI mampu mengatasi hambatan teknis yang sering memperlambat proses inferensi.
Jalapeno dirancang khusus untuk meminimalkan transmisi data dan penundaan komunikasi pada tahap prefill, sehingga pemrosesan data AI menjadi jauh lebih efisien.
Perusahaan juga menyatakan KV cache yang digunakan saat menghasilkan respons akan dikunci dan disimpan secara lokal, sementara sistem mengaktifkan kombinasi komputasi, memori, dan jaringan secara tepat untuk setiap tahapan inferensi.
