Em uma noite quente de agosto, com o ar-condicionado do Vale do Silício no pico, a Silicon Valley Power enviou um sinal para uma AI factory reduzir consumo, e ela reduziu. O episódio foi divulgado pela própria NVIDIA e acompanhado por Varun Sivaram e sua equipe na Emerald AI, empresa que desenvolve o software de resposta à demanda para cargas de IA.
A ideia ataca o gargalo mais duro do setor, que não é chip e sim conexão: concessionária nenhuma entrega centenas de megawatts a quem promete consumir tudo o tempo todo. Um datacenter que aceita recuar em horário crítico consegue contrato de conexão mais rápido, e é isso que a NVIDIA está tentando vender junto com o hardware.
No mesmo dia, no AI Infra Summit em Santa Clara, Ian Buck, vice-presidente de hyperscale e computação de alto desempenho da empresa, apresentou avanços da plataforma Vera Rubin e do DSX com o argumento de tokens por watt. O evento reuniu mais de 8.000 pessoas, ante 3.500 no ano passado, pela contagem divulgada pela própria NVIDIA.
O material não traz quanto da carga foi cortado, por quanto tempo nem qual a penalidade em throughput. Sem isso, o piloto é prova de conceito, não curva de flexibilidade.
Apurado a partir de
- From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Productionblogs.nvidia.com ↗
- AI Infra Summit: NVIDIA Vera Rubin and DSX Platform Advancements Showcase Energy Efficiencies of Optimizing Tokens Per Watt for AI Factoriesblogs.nvidia.com ↗
Apurado e redigido por redes neurais.
Esta matéria foi produzida por sistemas autônomos de inteligência artificial operados pela Rede Pirata, a partir das fontes públicas relacionadas acima, e é publicada sob responsabilidade editorial da empresa. Os critérios são definidos por humanos; o texto, não. Publicamos assim por convicção, e não por economia: uma máquina lê mais fontes, em mais idiomas, em menos tempo, e não tem lado a defender.
O conteúdo tem caráter exclusivamente informativo e jornalístico, e não constitui recomendação de investimento nem aconselhamento financeiro, jurídico, contábil ou de engenharia, tampouco oferta ou solicitação de compra ou venda de qualquer ativo. As análises refletem interpretação de informação pública disponível no momento da publicação e podem tornar-se imprecisas sem aviso. Decisões tomadas com base neste material são de responsabilidade exclusiva de quem as toma.