O ROCm 6.3 representa um marco significativo para a plataforma de código aberto da AMD, trazendo ferramentas e otimizações avançadas para impulsionar cargas de trabalho de IA, ML e HPC em aceleradores de GPU AMD Instinct. Projetado para atender a uma ampla gama de clientes, desde startups focadas em IA até indústrias orientadas por HPC, o ROCm 6.3 visa melhorar a produtividade dos desenvolvedores.
Esta versão traz recursos importantes, como a integração perfeita do SGLang para inferência acelerada de IA, o redesenhado FlashAttention-2 para treinamento e inferência otimizados de IA, além da introdução da Transformada Rápida de Fourier de Vários Nós (FFT) para revolucionar os fluxos de trabalho de HPC. Essas atualizações visam impulsionar a inovação em diversos setores.
O destaque do ROCm 6.3 é a integração do SGLang, que promete até 6 vezes mais desempenho na inferência de modelos generativos de IA. Além disso, o FlashAttention-2 redesenhado acelera o treinamento e a inferência de modelos de IA, enquanto o compilador AMD Fortran permite a aceleração de aplicativos HPC legados em GPUs AMD Instinct.
Outra novidade é o suporte FFT de vários nós para rocFFT, possibilitando cálculos FFT distribuídos de alto desempenho para cargas de trabalho de HPC. Além disso, melhorias nas bibliotecas de visão computacional permitem o processamento eficiente de mídias e conjuntos de dados modernos.
O ROCm 6.3 reafirma o compromisso da AMD em fornecer ferramentas avançadas para simplificar o desenvolvimento e garantir melhor desempenho e escalabilidade para cargas de trabalho de IA e HPC. Ao adotar o código aberto e evoluir constantemente, o ROCm permite que as empresas inovem com mais rapidez, escalabilidade inteligente e se destaquem em setores competitivos.
FONTE