NVIDIA Anuncia Novos Switches Otimizados para Computação GPU de Trilhões de Parâmetros e Infraestrutura de IA

Tweet

GTC — A NVIDIA anunciou hoje uma nova onda de switches de rede, a série X800, projetados para IA em grande escala.

As primeiras plataformas de rede do mundo com capacidade de transferência de 800 Gb/s de ponta a ponta,  NVIDIA Quantum-X800 InfiniBand e  NVIDIA Spectrum™-X800 Ethernet ampliam os limites do desempenho de rede para cargas de trabalho de computação e IA. Eles apresentam software que acelera ainda mais aplicativos de IA, nuvem, processamento de dados e HPC em todos os tipos de data center, incluindo aqueles que incorporam a recém-lançada linha de produtos baseados na arquitetura NVIDIA Blackwell.

“A NVIDIA Networking é fundamental para a escalabilidade da nossa infraestrutura de supercomputação de IA”, disse Gilad Shainer, vice-presidente sênior de redes da NVIDIA. “Os switches NVIDIA X800 são plataformas de rede ponta a ponta que nos permitem alcançar IA generativa em escala de trilhões de parâmetros, essencial para novas infraestruturas de IA.”

Os adotantes iniciais do Quantum InfiniBand e Spectrum-X Ethernet incluem Microsoft Azure e Oracle Cloud Infrastructure.

“A IA é uma ferramenta poderosa para transformar dados em conhecimento. Por trás dessa transformação está a evolução dos data centers para motores de IA de alto desempenho, com demandas crescentes por infraestrutura de rede”, disse Nidhi Chappell, vice-presidente de infraestrutura de IA do Microsoft Azure. “Com novas integrações de soluções de rede NVIDIA, o Microsoft Azure continuará a construir a infraestrutura que ultrapassa os limites da IA ​​na nuvem.”

CoreWeave também está entre os primeiros a adotar.

Próximo padrão para desempenho extremo

A plataforma Quantum-X800 estabelece um novo padrão no fornecimento do mais alto desempenho para infraestrutura dedicada à IA. Ele inclui o switch NVIDIA Quantum Q3400 e o NVIDIA ConnectX ® -8 SuperNIC™, que juntos alcançam uma taxa de transferência ponta a ponta líder do setor de 800 Gb/s. Isso representa uma capacidade de largura de banda 5x maior e um aumento de 9x de 14,4Tflops de computação em rede com o Scalable Hierarchical Aggregation and Reduction Protocol (SHARPv4) da NVIDIA em comparação com a geração anterior.

A plataforma Spectrum-X800 oferece desempenho de rede otimizado para nuvem de IA e infraestrutura empresarial. Utilizando o switch Spectrum SN5600 de 800 Gb/s e o NVIDIA BlueField ® -3 SuperNIC, a plataforma Spectrum-X800 fornece conjuntos de recursos avançados cruciais para nuvens de IA generativas multilocatários e grandes empresas.

O Spectrum-X800 otimiza o desempenho da rede, facilitando processamento, análise e execução mais rápidos de cargas de trabalho de IA, acelerando assim o desenvolvimento, a implantação e o tempo de lançamento no mercado de soluções de IA. Projetado especificamente para ambientes multilocatários, o Spectrum-X800 garante isolamento de desempenho para cargas de trabalho de IA de cada locatário para manter níveis de desempenho ideais e consistentes, aumentando a satisfação do cliente e a qualidade do serviço.

Suporte de software NVIDIA

A NVIDIA fornece um conjunto abrangente de bibliotecas de aceleração de rede, kits de desenvolvimento de software e software de gerenciamento para otimizar o desempenho de modelos de IA de trilhões de parâmetros.

Isso inclui a NVIDIA Collective Communications Library (NCCL), que estende as tarefas de computação paralela da GPU à estrutura da rede Quantum-X800, aproveitando seus poderosos recursos de computação em rede com SHARPv4 com suporte para FP8, aumentando o desempenho para treinamento de modelos grandes e IA generativa.

A abordagem de software full-stack da NVIDIA oferece programabilidade avançada, tornando as redes de data centers mais flexíveis, confiáveis ​​e responsivas, aumentando, em última análise, a eficiência operacional geral e suportando as necessidades de aplicações e serviços modernos.

Impulso do ecossistema

No próximo ano, o Quantum-X800 e o Spectrum-X800 estarão disponíveis em uma ampla gama de fornecedores líderes de infraestrutura e sistemas em todo o mundo, incluindo Aivres, DDN, Dell Technologies , Eviden, Hitachi Vantara, Hewlett Packard Enterprise, Lenovo , Supermicro e Dados VAST.

Sobre a NVIDIA

Desde a sua fundação em 1993,  a NVIDIA  (NASDAQ: NVDA) tem sido pioneira em computação acelerada. A invenção da GPU pela empresa em 1999 desencadeou o crescimento do mercado de jogos para PC, redefiniu a computação gráfica, deu início à era da IA ​​moderna e está alimentando a digitalização industrial em todos os mercados. A NVIDIA é agora uma empresa de infraestrutura de computação full-stack com ofertas em escala de data center que estão remodelando o setor. Mais informações em  https://nvidianews.nvidia.com