Dalam layanan pers AMD mengumumkan bahwa perusahaan telah merilis versi baru perangkat lunak sumber terbuka ROCm 6.3. Perangkat lunak ini telah menerima alat canggih tambahan untuk menyederhanakan proses pengembangan dan memberikan kinerja dan skalabilitas yang lebih baik untuk beban kerja AI dan komputasi kinerja tinggi (HPC).
Ikuti saluran kami untuk berita terbaru Google News online atau melalui aplikasi.
Di antara fitur-fitur utama AMD ROCm 6.3, perusahaan menyoroti hal-hal berikut:
- Alat SGLang yang dirancang khusus untuk mengoptimalkan inferensi model generatif canggih, seperti model bahasa besar dan model bahasa visual, pada GPU AMD Instinct. Dengannya, Anda dapat mencapai throughput hingga enam kali lebih tinggi saat menyimpulkan model bahasa besar
- Optimalisasi transformator tingkat baru. FlashAttention-2, dioptimalkan untuk ROCm 6.3, mempercepat pelatihan model transformator dan inferensi sebanyak 3 kali lipat. Berkat ini, waktu pemasaran sistem kecerdasan buatan perusahaan dapat dikurangi secara signifikan
- Kompiler AMD Fortra yang menyederhanakan akselerasi GPU untuk aplikasi HPC lama dan menawarkan pembongkaran langsung, kompatibilitas ke belakang, dan integrasi yang mudah tanpa perubahan kode yang signifikan
- FFT multi-node baru (algoritma cepat untuk menghitung transformasi Fourier diskrit). Dukungan FFT multi-node memberikan komputasi FFT performa tinggi pada kumpulan data besar. Hal ini memungkinkan peningkatan efisiensi dan kecepatan pengambilan keputusan di bidang-bidang seperti industri minyak dan gas serta penelitian ilmiah.
Perpustakaan visi komputer juga diperluas dalam versi perangkat lunak yang baru. Pustaka visi tingkat lanjut, termasuk AV1 dan rocJPEG, memungkinkan pengembang membuat karya tingkat lanjut solusi AI untuk berbagai beban kerja seperti analisis video atau augmentasi kumpulan data. Alat ini akan berguna di berbagai industri, mulai dari media massa dan hiburan hingga sistem otonom.
Dengan open source dan pengembangan berkelanjutan untuk memenuhi kebutuhan para pengembang, AMD terus memberdayakan perusahaan untuk berinovasi lebih cepat, berkembang lebih cerdas, dan tetap menjadi yang terdepan dalam industri kompetitif mereka.
Jika Anda tertarik dengan artikel dan berita tentang teknologi penerbangan dan luar angkasa, kami mengundang Anda ke proyek baru kami AERONAUT.a rata-rata.
Baca juga: