AWS (Amazon Web Services) telah menyelenggarakan re:Invent 2024 pada akhir tahun lalu di Las Vegas, Amerika Serikat. Belum lama di Jakarta, AWS Indonesia membagikan sejumlah inovasi yang disampaikan AWS pada re:Invent terbaru itu. AI (artificial intelligence) menjadi tema utama dari inovasi-inovasi yang dibagikan. Diklaim memungkinkan AI dengan kinerja lebih tinggi maupun biaya lebih rendah, AWS meyakini sejumlah inovasi AI tersebut bisa membantu berbagai organisasi di Indonesia memanfaatkan AI.

“Kami telah secara aktif membentuk inovasi gen AI atas nama para bisnis, pada, dalam, bisnis-bisnis, bagaimana mereka beroperasi, bagaimana mereka berinovasi, bagaimana mereka tumbuh, dan untuk inovasi, kami benar-benar fokus pada inovasi yang benar-benar penting bagi para pelanggan kami. Pada intinya, inovasi yang akan membantu mendorong dan memecahkan tantangan-tantangan bisnis dan juga memberikan efisiensi ke dalam operasi mereka,” ujar Paul Chen (Head of Solutions Architect, ASEAN, Amazon Web Services).

Apa saja sejumlah inovasi AI yang dibagikan AWS? AWS memilah inovasi-inovasi AI yang dibagikan ke dalam empat kelompok, yakni lompatan berikutnya dalam kapabilitas-kapabilitas AI, pengubahan masa depan cara bekerja, infrastruktur dan silikon generasi berikutnya, serta data sebagai tulang punggung dari inovasi AI.

Pada lompatan berikutnya dalam kapabilitas-kapabilitas AI ada Amazon Nova dan beberapa fasilitas baru Amazon Bedrock. Pada pengubahan masa depan cara bekerja antara lain terdapat kemampuan-kemampuan baru Amazon Q Developer. Pada infrastruktur dan silikon generasi berikutnya antara lain ada lini AWS Trainium, tepatnya AWS Trainium2 dan AWS Trainium3. Pada data sebagai tulang punggung dari inovasi AI antara lain terdapat kemampuan baru Amazon DynamoDB.

Amazon Nova

Amazon Nova, mengutip AWS, adalah suatu generasi baru dari sejumlah foundation model mutakhir yang memberikan kecerdasan terdepan serta perbandingan kinerja terhadap harga yang terdepan di industri. Dengan Amazon Nova, para organisasi bisa memilih foundation model yang paling sesuai dengan kebutuhan maupun keinginan dan mendapatkan kinerja AI yang baik dengan biaya yang lebih terjangkau. Amazon Nova tersedia di Amazon Bedrock.

Amazon Bedrock, seperti yang dituliskan di sini, merupakan suatu layanan yang sepenuhnya terkelola yang menawarkan aneka foundation model berkinerja tinggi dari berbagai perusahaan AI terkemuka seperti AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI, dan Amazon melalui sebuah API tunggal, bersama dengan satu set kemampuan yang luas yang diperlukan untuk membangun aplikasi-aplikasi AI generatif dengan keamanan, privasi, dan AI yang bertanggung jawab.

AWS mengeklaim Amazon Bedrock menawarkan cara termudah bagi organisasi-organisasi untuk membangun aplikasi-aplikasi AI generatif yang relevan memanfaatkan aneka foundation model. Hadirnya Amazon Nova pada Amazon Bedrock menambah opsi foundation model yang bisa dipilih dan digunakan oleh para organisasi. Opsi yang lebih banyak sewajarnya memungkinkan organisasi-organisasi untuk lebih bisa memilih dan menggunakan foundation model yang paling relevan dengan kebutuhan maupun keinginan.

Adapun foundation model yang terkandung pada Amazon Nova adalah Amazon Nova Micro, Amazon Nova Lite, Amazon Nova Pro, Amazon Nova Canvas, Amazon Nova Reel, dan Amazon Nova Sonic. Amazon Nova Micro, Amazon Nova Lite, dan Amazon Nova Pro disebut AWS sebagai understanding model yang menerima teks, gambar, dan video sebagai masukan serta menghasilkan teks sebagai keluaran.

Amazon Nova Canvas dan Amazon Nova Reel disebut AWS sebagai creative content generation model yang menerima teks dan gambar sebagai masukan serta menghasilkan gambar atau video sebagai keluaran. Adapun Amazon Nova Sonic disebut AWS sebagai speech-to-speech model yang menerima ucapan sebagai masukan serta menghasilkan ucapan maupun teks sebagai keluaran.

Pada understanding model, Amazon Nova Micro memiliki kapabilitas dan harga per 1.000 token yang paling rendah, Amazon Nova Pro memiliki kapabilitas dan harga per 1.000 token yang paling tinggi, dan Amazon Nova Lite memiliki kapabilitas dan harga per 1.000 token di antara keduanya. Amazon Nova Micro menerima teks saja sebagai masukan, sedangkan Amazon Nova Lite dan Amazon Nova Pro menerima teks, gambar, dan video sebagai masukan.

Pada creative content generation model, Amazon Nova Canvas memiliki kapabilitas untuk menghasilkan gambar, sedangkan Amazon Nova Reel memiliki kapabilitas untuk menghasilkan video. Perihal harga, Amazon Nova Canvas memiliki harga per gambar yang dihasilkan bervariasi, bergantung pada resolusi dan kualitas. Sementara Amazon Nova Reel, hanya terdapat satu opsi resolusi dan kualitas video yang dihasilkan, dengan harga per detik sama dengan harga per gambar tertinggi Amazon Nova Canvas.

Amazon Nova Sonic sendiri, seperti telah disebutkan, memiliki kapabilitas untuk menghasilkan ucapan maupun teks dari masukan berupa ucapan. Perihal harga per 1.000 token, Amazon Nova Sonic dengan ucapan sebagai masukan dan keluaran, lebih tinggi dari Amazon Nova Pro.

Sampai dibuatnya tulisan ini, Amazon Nova Canvas, Amazon Nova Reel, dan Amazon Nova Sonic hanya mendukung bahasa Inggris. Namun, tidak demikian halnya dengan Amazon Nova Micro, Amazon Nova Lite, dan Amazon Nova Pro. Amazon Nova Micro, Amazon Nova Lite, dan Amazon Nova Pro, semuanya diklaim mendukung lebih dari dua ratus bahasa.

Fasilitas Baru Amazon Bedrock

Selain tambahan Amazon Nova, Amazon Bedrock juga menawarkan sejumlah foundation model baru lain. Dua yang dikedepankan AWS dan sudah tersedia adalah Luma Ray2 dan Stable Diffusion 3.5 Large. Luma Ray2 menerima teks sebagai masukan serta menghasilkan video sebagai keluaran, sedangkan Stable Diffusion 3.5 Large menerima teks sebagai masukan serta menghasilkan gambar sebagai keluaran. Luma Ray2 adalah foundation model dari Luma AI, sedangkan Stable Diffusion 3.5 Large dari Stability AI.

Selain itu, ada juga Marketplace. Amazon Bedrock Marketplace adalah lokapasar yang menawarkan berbagai foundation model lain yang memiliki spesialisasi tertentu. AWS menyebutkan tersedia lebih dari seratus foundation model pada Amazon Bedrock Marketplace, termasuk model-moldel dari Asia Pasifik.

Tak hanya tambahan foundation model, terdapat pula beberapa fasilitas baru lain pada Amazon Bedrock. Salah satunya adalah Automated Reasoning checks. AWS menjelaskan bahwa Automated Reasoning checks bisa memvalidasi suatu respons faktual dari sebuah model AI generatif untuk akurasi, menghasilkan suatu keluaran yang dapat diaudit, dan menunjukkan kepada sang pengguna bagaimana sesungguhnya sebuah model AI generatif sampai pada suatu keluaran.

Automated Reasoning checks bisa membantu mencegah kesalahan-kesalahan faktual akibat halusinasi-halusinasi para model AI generatif. AWS menambahkan bahwa Automated Reasoning checks menggunakan automated reasoning yang memanfaatkan matematika untuk membuktikan sesuatu itu benar. AWS mengeklaim Automated Reasoning checks sebagai generative AI safeguard pertama dan satu-satunya yang bisa membantu mencegah kesalahan-kesalahan faktual akibat halusinasi-halusinasi para model AI generatif.

Kemampuan Baru Amazon Q Developer

Amazon Q adalah asisten AI generatif yang bisa membantu para organisasi melakukan pekerjaan. Amazon Q Developer adalah Amazon Q yang ditujukan untuk para pengembang peranti lunak. Amazon Q Developer adalah asisten AI generatif untuk membantu para pengembang peranti lunak dalam membangun, mengoperasikan, dan mentransformasi peranti-peranti lunak.

Terdapat beberapa kemampuan baru Amazon Q Developer yang dikedepankan AWS. Dua di antaranya adalah kemampuan untuk memodernisasi aplikasi-aplikasi .NET Framework Windows ke Linux dan kemampuan untuk mentransformasi beban-beban kerja VMware ke sejumlah arsitektur cloud-native. Kedua kemampuan ini diklaim memungkinkan para pengembang peranti lunak memodernisasi aplikasi-aplikasi maupun mentransformasi beban-beban kerja yang dimaksud secara lebih cepat.

AWS Trainium

Lini AWS Trainium adalah lini cip khusus untuk melatih para model AI, termasuk AI generatif. Merupakan akselerator, AWS Trainium bisa juga untuk AI inference, tetapi lebih ditujukan untuk melatih AI. Para instance Amazon EC2 Trn1 yang ditenagai AWS Trainium generasi pertama (selanjutnya disebut AWS Trainium) diklaim menawarkan biaya pelatihan AI yang lebih hemat hingga 50% dibandingkan berbagai instance Amazon EC2 untuk pelatihan AI lain.

Pada AWS re:Invent 2023, AWS Trainium2 diumumkan. AWS Trainium2 adalah AWS Trainium generasi kedua dan kala itu dijanjikan akan menawarkan kinerja yang lebih tinggi hingga empat kali dan lebih hemat energi hingga dua kali dari AWS Trainium. Pada AWS re:Invent 2024, para instance Amazon EC2 Trn2 yang ditenagai AWS Trainium2 diumumkan tersedia secara umum. Selain itu, pada acara yang sama, AWS mengungkapkan pula Trainium3. AWS Trainium3 dijanjikan akan menawarkan kinerja yang lebih bertenaga lagi.

Kemampuan Baru Amazon DynamoDB

Mengutip AWS, Amazon DynamoDB adalah layanan basis data NoSQL yang serverless dan membolehkan para organisasi untuk mengembangkan aplikasi-aplikasi modern dalam segala skala. Kemampuan Baru Amazon DynamoDB yang dikedepankan AWS adalah dukungan multi-Region strong consistency pada Amazon DynamoDB global tables.

Amazon DynamoDB global tables sendiri adalah multi-Region replication untuk Amazon DynamoDB. Amazon DynamoDB global tables memudahkan replikasi antar-Amazon DynamoDB tables di berbagai AWS Region. Adapun penggunaan lebih dari satu AWS Region antara lain bisa memberikan kinerja yang lebih baik, seperti latensi yang lebih rendah, pada aplikasi-aplikasi yang sifatnya global: aplikasi-aplikasi tersebut bisa mengakses AWS Region yang terdekat, sesuai dengan posisinya saat itu.

Multi-Region strong consistency memiliki fungsi untuk memastikan sebuah aplikasi organisasi yang memanfaatkan suatu DynamoDB global table bisa selalu membaca versi terbaru data dari AWS Region mana saja pada DynamoDB global table tersebut. Multi-Region strong consistency cocok untuk suatu aplikasi yang sifatnya global dan memiliki persyaratan yang ketat untuk konsistensi.

Halodoc: Amazon Nova Pro

Salah satu perusahaan di Indonesia yang sudah menggunakan inovasi baru yang dibagikan AWS adalah Halodoc. Merupakan health technology, Halodoc mendefinisikan dirinya sebagai suatu ekosistem kesehatan digital dengan misi untuk menyederhanakan akses layanan kesehatan dengan mengatasi aneka pain point pengguna melalui layanan yang mudah diakses, dapat diandalkan, dan berkualitas.

Terdapat lebih dari 3.000 rumah sakit yang bekerja sama dengan Halodoc. Suatu pengguna yang berobat di salah satu rumah sakit bersangkutan dengan Halodoc dan pengguna itu sudah menghubungkan asuransinya ke Halodoc, bila pengguna tersebut memanfaatkan asuransinya untuk menanggung biaya berobat yang dimaksud, biaya berobat itu akan diklaim oleh rumah sakit bersangkutan ke perusahaan asuransi via Halodoc. Halodoc akan melakukan verifikasi dan bila semuanya benar, klaim akan dibayar perusahaan asuransi.

Namun, dokumen antara rumah sakit yang satu dengan yang lain tidak mesti sama. Dengan banyak rumah sakit, banyak pula ragam dokumen klaim yang diterima Halodoc untuk diproses. Memproses jumlah dan ragam dokumen klaim yang banyak secara manual tetnu tidak efisien. Halodoc menggunakan otomatisasi dengan bantuan AI dan AI yang dimanfaatkan adalah Amazon Nova, tepatnya Amazon Nova Pro. Halodoc memanfaatkan Amazon Nova Pro untuk zero-touch auto-adjudication di bawah pengawasan ahli medisnya.

Halodoc menjelaskan dalam proses untuk melakukan verifikasi klaim, Amazon Nova Pro akan mengekstraksi data, mengategorikan manfaat, membantu dalam validasi data, dan membantu dalam deteksi penipuan. Halodoc mengeklaim otomatisasi dengan bantuan Amazon Nova Pro yang dipakai, berhasil menurunkan waktu pemrosesan klaim lebih dari 50%, meningkatkan produktivitas tenaga kerja lebih dari 45%, dan memberikan biaya AI yang lebih hemat lebih dari 50%. Khusus biaya AI adalah dengan model AI lain yang sejenis.

“Salah satu manfaat dari Nova Pro, adalah seperti, pendekatan AI penuh tekad kami akan secara signifikan menurunkan biaya pemrosesan, membuat penanganan klaim volume tinggi menjadi scalable dan hemat biaya jika saya bandingkan dengan model yang sebanding di pasar,” pungkas Dody Alfian (Senior Engineering Manager Information Security, Halodoc).