AMD Rilis GPU Akselerator Instinct MI325X, Dorong AI Makin Pintar dan Ngebut
kumparanTECH October 11, 2024 08:20 PM
AMD resmi meluncurkan GPU akselerator kecerdasan buatan (AI) baru Instinct MI325X, Kamis (10/10). Ia menawarkan pemrosesan tugas berat AI yang lebih cepat dibandingkan generasi sebelumnya, Instinct MI300X.
Instinct MI325X berbeda dengan GPU konvensional yang umum ditemukan di PC untuk rendering grafis. Ia dirancang untuk digunakan dalam sistem yang membutuhkan performa komputasi tinggi, efisiensi energi, dan kapasitas memori besar, seperti superkomputer (HPC), data center, hingga infrastruktur artificial intelligence.
Karena fungsinya mengakselerasi komputasi tinggi, GPU tipe ini disebut sebagai akselerator.
Instinct MI325X menghadirkan kapasitas memori dan bandwidth yang besar, dengan HBM3E 256 GB yang mendukung kecepatan transfer data 6 TB per detik. Platform pun didukung dengan performa FLOPS (floating point operations per second) FP8 2.6 PF dan FP16 1.3 PF.
Kapasitasnya diklaim 1,8 kali lebih banyak dan bandwidth 13 lebih banyak dibandingkan NVIDIA H200. GPU dengan arsitektur CDNA 3 ini juga menawarkan performa komputasi FP8 dan FP16 puncak 1,3 kali lebih besar daripada H200.
Instinct MI325X, GPU akselerator AI baru dari AMD. Foto: Muhammad Fikrie/kumparan
AMD menargetkan produksi akselerator Instinct MI325X dimulai pada kuartal keempat 2024, dengan ketersedia per kuartal pertama 2025. Sejumlah mitra brand menyatakan ketertarikannya untuk menggunakan GPU AI ini, seperti Dell Technologies, Eviden, Gigabyte, Hewlett Packard Enterprise, Lenovo, Supermicro, dan lain sebagainya.
Selain meluncurkan MI325X, AMD sudah menyediakan produk anyar dari lini Instinct, yakni MI350. Akselerator ini akan berbasis arsitektur CDNA 4, yang diklaim dapat memberikan peningkatan 35 kali lipat dalam kinerja inferensi dibandingkan akselerator berbasis CDNA 3.
Akselerator MI350 sanggup menampung kapasitas memori HBM3E hingga 288 GB. Ia dijadwalkan tersedia pada paruh kedua 2025 mendatang.
Jaringan AI AMD Pensando Pollara 400 dan Salina 400
AMD turut memperkenalkan dua perangkat jaringan berbasis AI terbaru dari lini Pensando, yakni Pollara 400 dan Salina 400. Pollara 400 merupakan NIC kartu jaringan NIC (network interface card), sementara Salina 400 adalah prosesor DPU (data processing unit).
Pusat data hyperscale membutuhkan jaringan untuk dua bagian, front-end dan back-end. Front-end untuk mengirim data dan informasi ke kluster AI, sementara back-end untuk mengelola transfer data antara akselerator dan kluster.
AMD Pensando Salina 400. Foto: Muhammad Fikrie/kumparan
AMD Pensando Salina 400 dan Pollara 400 dapat memenuhi kebutuhan tersebut, sekaligus mendorong performa, skalabilitas, dan efisiensi tinggi di seluruh sistem pusat data.
Salina 400 menjadi generasi ketiga DPU yang disebut dapat menghasilkan performa, bandwidth, dan skala hingga dua kali lebih baik dibandingkan generasi sebelumnya. Sementara itu, Pollara 400 menjadi NIC AI pertama di industri yang siap untuk Ultra Ethernet Consortium (UEC), menawarkan kinerja, skalabilitas, dan efisiensi komunikasi antar-akselerator dalam jaringan back-end.
Keduanya mulai diuji coba ke pelanggan bisnis AMD pada kuartal keempat 2024. Perangkat jaringan ini diharapkan tersedia di pasar pada paruh pertama 2025.
