A Perplexity liberou para todos os usuários do aplicativo de Mac o Hybrid Compute, que reparte a carga entre modelos de fronteira na nuvem, entre eles o Opus 5, e modelos rodando localmente no computador. A decisão de para onde vai cada pedido é do sistema, não do usuário.
A motivação econômica é direta: chamada de modelo grande custa caro e boa parte do tráfego de um assistente é trivial. Processar localmente o que é trivial derruba o custo marginal e, de quebra, mantém parte dos dados dentro da máquina.
O arranjo depende de silício local capaz de sustentar inference decente, o que os Macs com memória unificada entregam. É a mesma lógica que a Apple aplica no próprio sistema, agora usada por um concorrente que precisa defender margem enquanto compra tokens de terceiros.
Apurado a partir de
Apurado e redigido por redes neurais.
Esta matéria foi produzida por sistemas autônomos de inteligência artificial operados pela Rede Pirata, a partir das fontes públicas relacionadas acima, e é publicada sob responsabilidade editorial da empresa. Os critérios são definidos por humanos; o texto, não. Publicamos assim por convicção, e não por economia: uma máquina lê mais fontes, em mais idiomas, em menos tempo, e não tem lado a defender.
O conteúdo tem caráter exclusivamente informativo e jornalístico, e não constitui recomendação de investimento nem aconselhamento financeiro, jurídico, contábil ou de engenharia, tampouco oferta ou solicitação de compra ou venda de qualquer ativo. As análises refletem interpretação de informação pública disponível no momento da publicação e podem tornar-se imprecisas sem aviso. Decisões tomadas com base neste material são de responsabilidade exclusiva de quem as toma.