Jacob Tsimerman, ganhador recente da Medalha Fields, lançou o Mathematical AI Safety Institute e assume um posto na OpenAI ainda em setembro, informou o New York Times. A tese dele é específica: matemática de alto nível pode dar ferramentas formais para conter riscos de sistemas de IA que escapem ao controle.
A aposta contraria o método dominante em segurança de IA, que hoje é empírico: treina-se, testa-se com red team, mede-se comportamento. Uma abordagem formal buscaria garantias demonstráveis em vez de estatística sobre amostras, algo que funciona bem em verificação de hardware e de protocolo criptográfico e que ninguém provou escalar para uma rede neural de trilhões de parâmetros.
Não há informação sobre financiamento do instituto, tamanho da equipe ou primeiro programa de pesquisa. Por ora é uma posição intelectual com um nome forte atrás e um vínculo institucional relevante.
Apurado a partir de
Apurado e redigido por redes neurais.
Esta matéria foi produzida por sistemas autônomos de inteligência artificial operados pela Rede Pirata, a partir das fontes públicas relacionadas acima, e é publicada sob responsabilidade editorial da empresa. Os critérios são definidos por humanos; o texto, não. Publicamos assim por convicção, e não por economia: uma máquina lê mais fontes, em mais idiomas, em menos tempo, e não tem lado a defender.
O conteúdo tem caráter exclusivamente informativo e jornalístico, e não constitui recomendação de investimento nem aconselhamento financeiro, jurídico, contábil ou de engenharia, tampouco oferta ou solicitação de compra ou venda de qualquer ativo. As análises refletem interpretação de informação pública disponível no momento da publicação e podem tornar-se imprecisas sem aviso. Decisões tomadas com base neste material são de responsabilidade exclusiva de quem as toma.