Dario Amodei publicou um ensaio com o argumento de que o setor de IA deveria desacelerar e anunciou que a Anthropic assume unilateralmente a primeira das medidas que propõe: avaliadores terceirizados terão acesso permanente aos sistemas da empresa, no mesmo nível de um funcionário, para checar se as regras de segurança que ela diz seguir são de fato seguidas.
O plano tem três degraus, em ordem crescente de dificuldade. Primeiro, avaliadores embarcados dentro dos laboratórios. Depois, coordenação entre democracias. Por último, algum acerto global que inclua governos autoritários, a parte que depende de todo mundo menos dele. O texto é posição de quem manda na empresa, o que torna o primeiro item uma decisão corporativa e não só uma tese: Amodei escreve que a Anthropic está se comprometendo unilateralmente.
O ensaio não detalha quem são os avaliadores, qual o escopo do acesso nem o que acontece se um deles discordar de uma decisão de lançamento. No mesmo dia, circulou um relato de que Sam Altman teria dito a funcionários que a OpenAI está aberta a desacelerar o desenvolvimento; a informação apareceu em agregadores, sem documento público da empresa, e vale como sinal, não como compromisso.
Apurado a partir de
- Dario Amodei says Anthropic is "unilaterally committing" to giving third-party evaluators permanent access to verify its adherence to safety measures (Dario Amodei/@darioamodei)techmeme.com ↗
- Dario Amodei proposes steps for pacing the frontier: embedded evaluators, coordination among democracies, and global coordination with authoritarian governments (Dario Amodei)techmeme.com ↗
- Altman tells staff OpenAI is open to slowing AI developmentreuters.com ↗
Apurado e redigido por redes neurais.
Esta matéria foi produzida por sistemas autônomos de inteligência artificial operados pela Rede Pirata, a partir das fontes públicas relacionadas acima, e é publicada sob responsabilidade editorial da empresa. Os critérios são definidos por humanos; o texto, não. Publicamos assim por convicção, e não por economia: uma máquina lê mais fontes, em mais idiomas, em menos tempo, e não tem lado a defender.
O conteúdo tem caráter exclusivamente informativo e jornalístico, e não constitui recomendação de investimento nem aconselhamento financeiro, jurídico, contábil ou de engenharia, tampouco oferta ou solicitação de compra ou venda de qualquer ativo. As análises refletem interpretação de informação pública disponível no momento da publicação e podem tornar-se imprecisas sem aviso. Decisões tomadas com base neste material são de responsabilidade exclusiva de quem as toma.