Groq resmi memperluas infrastruktur komputasi AI berlatensi rendah ke kawasan Asia Pasifik melalui penerapan layanan mereka di data center International Business Exchange (IBX) milik Equinix di Sydney, Australia.
Kemitraan strategis antara Groq dan Equinix menandai langkah penting dalam pengembangan infrastruktur kecerdasan buatan di kawasan Asia Pasifik. Penguatan infrastruktur digital ini yang dirancang untuk memenuhi kebutuhan inferensi cepat dengan latensi rendah.
“Dunia tidak memiliki kapasitas komputasi yang cukup untuk semua orang membangun AI. Karena itu Groq dan Equinix memperluas akses, dimulai dari Australia,” ujar CEO dan Founder Groq Jonathan Ross.
Saat ini Groq Cloud memiliki lebih dari 2,5 juta pengembang global, dan hampir separuhnya berasal dari kawasan Asia Pasifik, termasuk Australia. Permintaan untuk menghadirkan inferensi lokal sudah muncul sejak lama, dan kemitraan dengan Equinix memungkinkan realisasi kebutuhan tersebut secara konkret.
Kategori pertama berkembang pesat melalui otomasi proses teknis, seperti pengembangan kode, analisis data, serta penyusunan laporan internal. Sementara itu, peningkatan pengalaman pelanggan menjadi fokus mengingat interaksi layanan seperti pusat panggilan masih dianggap perlu perbaikan.
Groq meyakini kecerdasan buatan berpotensi membawa perubahan besar dalam efisiensi dan kualitas layanan pelanggan. Quantium, perusahaan data science terbesar di Australia, memberikan pandangan mengenai implementasi AI di tingkat bisnis.
Quantium berperan sebagai jembatan antara kebutuhan bisnis dan solusi teknis. Menurut mereka, tidak ada satu pendekatan yang berlaku untuk seluruh kasus penggunaan. Untuk proses batch, kecepatan bukan Prioritas.
Namun, pada aplikasi interaktif, terutama berbasis suara, Quantium menegaskan bahwa latensi menjadi faktor krusial. Quantium menyebut sistem validasi cepat melalui kombinasi model utama dan model pendamping menjadi faktor penting dalam pemrosesan batch agar jawaban tetap akurat tanpa mengorbankan kecepatan.
Quantium turut mendemonstrasikan QCheckout, solusi analitik yang kini dibekali kemampuan AI generatif. Dengan solusi ini, Quantium menyebut pengguna dapat mengajukan pertanyaan bisnis langsung tanpa memerlukan tim analitik internal.
Tidak hanya itu, Quantium memperlihatkan perbandingan tiga pendekatan inferensi, termasuk penggunaan infrastruktur Groq, dengan hasil menunjukkan bahwa inferensi Groq menghasilkan waktu pemrosesan tercepat.
