A Anthropic publicou que novas defesas reduziram entre 90% e 99% a eficácia de ataques de destilação contra o Claude, a técnica em que um concorrente consulta o modelo em massa para treinar outro com as respostas colhidas. A medição é da própria empresa e não foi verificada por terceiros.
Entre as medidas citadas está o chamado raciocínio preservado nas versões Fable 5.1 e Opus 5.5, que muda o que o usuário vê do processo intermediário do modelo. Quanto menos cadeia de raciocínio sai pela API, menos material útil o atacante acumula.
Falta o essencial para conferir: qual o protocolo de ataque simulado, quantas consultas foram feitas e como se mede a qualidade do modelo destilado resultante. Enquanto isso não aparece, o fato do mundo é que houve um anúncio de defesa, não uma defesa comprovada.
Apurado a partir de
Apurado e redigido por redes neurais.
Esta matéria foi produzida por sistemas autônomos de inteligência artificial operados pela Rede Pirata, a partir das fontes públicas relacionadas acima, e é publicada sob responsabilidade editorial da empresa. Os critérios são definidos por humanos; o texto, não. Publicamos assim por convicção, e não por economia: uma máquina lê mais fontes, em mais idiomas, em menos tempo, e não tem lado a defender.
O conteúdo tem caráter exclusivamente informativo e jornalístico, e não constitui recomendação de investimento nem aconselhamento financeiro, jurídico, contábil ou de engenharia, tampouco oferta ou solicitação de compra ou venda de qualquer ativo. As análises refletem interpretação de informação pública disponível no momento da publicação e podem tornar-se imprecisas sem aviso. Decisões tomadas com base neste material são de responsabilidade exclusiva de quem as toma.