Atualização (7/2/2022)

Em dezembro, pudemos ver alguns detalhes e estudos de como deve ser a próxima titânica GPU para servidores da NVIDIA, com documentos que sugeriam 8.576 núcleos e memória com largura de até 6,3 TB/s. Nesta segunda (7), um novo dado impressionante corrobora a grandeza desse novo equipamento. Segundo um rumor no fórum Chipell, a GPU de 5 nm pode trazer até 140 bilhões de transistores.

Apesar do rumor não ter citado nominalmente a GH100, o contexto se refere ao codinome "Hopper". Seria mais um número recorde para essa placa que pode trazer uma matriz de 900 mm² — número maior que o limite atual da fotomáscara EUV (retícula), de 858 mm².

GH100

140 billion+ Transistors？👀https://t.co/uNeSYraVwa

— HXL (@9550pro) February 5, 2022

Para termos de comparação, os atuais Aldebaran da série Instinct MI200 da AMD e o NVIDIA Ampere GA100 têm, nesta ordem, apenas 58,2 bilhões e 54,2 bilhões de transistores.

Além disso, diz-se que a arquitetura Hopper pode abranger vários designs, um deles — o GH100 — pode ser monolítico, enquanto outro — o GH102 — pode ser um módulo multi-chip. Essa novidade deve chegar para competir com a AMD Aldebaran e a próxima Ponte Vecchio da Intel.

Texto original (14/12/2021)

NVIDIA “Hopper” GH100? Suposta GPU pode trazer 8.576 núcleos e memória com largura de até 6,3 TB/s

A NVIDIA publicou recentemente um estudo sobre as tendências para as próximas gerações de chips gráficos que aborda especificamente um modelo chamado de “GPU-N”. O hardware desconhecido teria um design com performance em deep learning sem precedentes.

Embora os detalhes pareçam muito futuristas, esses chips poderiam ser lançados em um futuro próximo e, melhor ainda, com disponibilidade para o público mainstream. Rumores sugerem que esse hardware se trate da GPU NVIDIA “Hopper” GH100, que representará a nova geração de gráficos para servidores em meados de 2022.

Afirma-se que a “GPU-N” terá design MCM e será equipada com um total de 134 multiprocessadores de fluxo (SM) para um total de 8.576 núcleos. Isso representa um aumento de 24% sobre a contagem de cores da NVIDIA Ampere A100, a unidade dedicada a servidores.

É apontado que essa plataforma oferecerá clocks de 1,4 GHz — idêntico à Ampere A100 — e capacidade de armazenamento de 60 MB em cache L2. O hardware deve possuir ampla largura de banda de memória DRAM, com base de 2,68 TB/s escalável a incríveis 6,3 TB/s.

A memória será HBM2e e terá capacidades de até 100 GB, com expansibilidade para 233 GB com a nova tecnologia COPA-GPU (Composable On-Package GPU, ou “unidade gráfica componível”, em tradução livre) para chips de servidores.

Testes sintéticos de benchmark foram elaborados com base nessas especificações. O hardware deve produzir 24,2 TFLOPs em FP32 — um acréscimo de 24% em relação à GPU A100 — e 779 TFLOPs em FP16, isto é, mais que o dobro do oferecido pela atual solução.

Curiosamente, seu desempenho em FP32 é menor em comparação à AMD Instinct MI250X, que entrega cerca de 95,7 TFLOPs, mas sua pontuação em FP16 é 2,15 vezes maior.

DL Bottlenecks
(2/x) pic.twitter.com/Rxpz1qvbvR

— Redfire (@Redfire75369) December 14, 2021

Rumores prévios vinham especulando que a NVIDIA GH100 será produzida com base no processo de 5 nanômetros da TSMC — caso a equipe verde não se adicione à lista de fabricantes que estão migrando para a Samsung — e integrará duas unidades gráficas em um mesmo módulo com variantes de 168 ou 188 SMs.

Essas variantes devem ser dedicadas aos segmentos de computação de alta performance (HPC) e deep learning (DL) — a primeira teria uma arquitetura que pouco difere do padrão, com GPU em MCM e memórias empilhadas com alta largura de banda; a segunda focaria em altas capacidades de armazenamento em cache através de um die separado.

Os chips gráficos da família “Hopper” devem ser apresentados oficialmente em meados de 2022, possivelmente durante a GTC 2022, evento dedicado aos desenvolvedores.