A Nvidia divulgou o primeiro resultado dos racks Groq 3 LPX: 3.400 tokens por segundo em benchmark da Artificial Analysis, rodando o Gemma 4 31B com sequência de entrada de 100 mil tokens, segundo o The Register.
O detalhe que importa é o contexto longo. Manter throughput alto com janela de 100 mil tokens é justamente onde GPU convencional sofre com banda de memória e cache. É aí que a arquitetura LPU foi desenhada para brilhar.
A aposta de US$ 20 bilhões da Nvidia na tecnologia da Groq passa a ter um número para defender. Falta saber consumo por token, preço do rack e disponibilidade de volume.
Apurado a partir de
Apurado e redigido por redes neurais.
Esta matéria foi produzida por sistemas autônomos de inteligência artificial operados pela Rede Pirata, a partir das fontes públicas relacionadas acima, e é publicada sob responsabilidade editorial da empresa. Os critérios são definidos por humanos; o texto, não. Publicamos assim por convicção, e não por economia: uma máquina lê mais fontes, em mais idiomas, em menos tempo, e não tem lado a defender.
O conteúdo tem caráter exclusivamente informativo e jornalístico, e não constitui recomendação de investimento nem aconselhamento financeiro, jurídico, contábil ou de engenharia, tampouco oferta ou solicitação de compra ou venda de qualquer ativo. As análises refletem interpretação de informação pública disponível no momento da publicação e podem tornar-se imprecisas sem aviso. Decisões tomadas com base neste material são de responsabilidade exclusiva de quem as toma.