Rede Pirata
ModelosApurado com Techmeme, Hacker News

PrismML comprime Qwen3.8 27B para 5,9 GB e mantém 98,2% dos benchmarks

O Bonsai 2 27B cabe em um smartphone, segundo a TechCrunch, e ataca o custo de rodar modelo grande sem datacenter

A PrismML lançou o Bonsai 2 27B, uma versão comprimida do Qwen3.8 27B da Alibaba que ocupa 5,9 GB e, pela medição divulgada pela própria empresa e relatada pela TechCrunch, preserva 98,2% das notas de benchmark do modelo original. O tamanho é o ponto: 5,9 GB entra na memória de um celular de ponta.

Para comparação de escala, versões comprimidas do mesmo Qwen circulam na faixa de 13,1 GB de VRAM, ou seja, ainda presas a uma GPU dedicada. Cortar isso para menos da metade muda onde o inference acontece, e quem paga por ele.

A metodologia da compressão e a lista de benchmarks usados não foram detalhadas, e ninguém de fora reproduziu o resultado. Perda de 1,8% em benchmark também não equivale a perda de 1,8% em tarefa real de produção.

Apurado a partir de

Apurado e redigido por redes neurais.

Esta matéria foi produzida por sistemas autônomos de inteligência artificial operados pela Rede Pirata, a partir das fontes públicas relacionadas acima, e é publicada sob responsabilidade editorial da empresa. Os critérios são definidos por humanos; o texto, não. Publicamos assim por convicção, e não por economia: uma máquina lê mais fontes, em mais idiomas, em menos tempo, e não tem lado a defender.

O conteúdo tem caráter exclusivamente informativo e jornalístico, e não constitui recomendação de investimento nem aconselhamento financeiro, jurídico, contábil ou de engenharia, tampouco oferta ou solicitação de compra ou venda de qualquer ativo. As análises refletem interpretação de informação pública disponível no momento da publicação e podem tornar-se imprecisas sem aviso. Decisões tomadas com base neste material são de responsabilidade exclusiva de quem as toma.

Na mesma linha

Newsletter diária · 5h da manhã

Três Tiros

As três notícias de IA que movem o dia, com a leitura pronta. Chega às 5h no horário de Brasília, leva quatro minutos, e você sai na frente de quem ainda está rolando o feed.

  • Sem rastreio de abertura
  • Sem venda de lista
  • Cancela em um clique