Intel akan menciptakan superkomputer terkuat dengan ribuan akselerator AI Gaudi2

Intel Corporation, menurut situs Datacenter Dynamics, bermaksud menciptakan salah satu superkomputer paling kuat di dunia untuk bekerja dengan AI generatif. Sumber daya platform akan digunakan oleh perusahaan Stability AI, yang mengimplementasikan proyek di bidang yang relevan. Platform LPC didasarkan pada prosesor Xeon. Selain itu, dikatakan menggunakan sekitar 4000 akselerator Gaudi2.

Prosesor Gaudi muncul sebagai hasil dari akuisisi Habana Labs oleh Intel senilai $2019 miliar pada tahun 2. Pada saat itu, Intel membuang chip AI dari akuisisi sebelumnya atas Nervana demi bisnis Israel.

Intel baru-baru ini merilis hasil pengujian Gaudi2 di benchmark GPT-J (termasuk dalam MLPerf Inference v3.1), yang didasarkan pada model bahasa besar (LLM) dengan 6 miliar parameter. Menurut perkiraan, Gaudi2 bisa menjadi solusi alternatif NVIDIA H100 di pasar AI.

Namun, H100 masih mengungguli pesaingnya dalam menangani aplikasi AI. Sebelum NVIDIA mengumumkan perangkat lunaknya TensorRT-LLM open source, dirancang khusus untuk mempercepat eksekusi model bahasa besar (LLM). Menurut perkiraan NVIDIA, penerapan TensorRT-LLM memungkinkan kinerja akselerator H100 dua kali lipat di benchmark GPT-J 6B. Jika menggunakan model Llama2, peningkatan kecepatan dibandingkan A100 mencapai 4,6x.

Proyek Intel dan Stability AI akan membantu perusahaan memperkuat posisi mereka di pasar AI generatif. Tidak ada yang dilaporkan mengenai waktu pengoperasian sistem dan kinerja yang diharapkan.

Baca juga:

• Intel mengumumkan bahwa prosesor Meteor Lake akan dihadirkan pada 14 Desember
• Superkomputer Crossroads berbasis Intel Xeon Sapphire Rapids telah diluncurkan di Laboratorium Los Alamos