O texto é ensaio, não anúncio: Satya Nadella publicou no X, na manhã de sábado, 10 de outubro, uma reflexão sobre os riscos de modelos avançados. A tese central é operacional, não filosófica. Parta do princípio de que qualquer modelo pode estar comprometido e projete os sistemas ao redor dele com essa suposição.
Nadella argumenta que não dá mais para conviver com IA tratada como uma caixa-preta dentro de outra caixa-preta, cujas recomendações e ações são aceitas sem verificação. Daí a proposta de um mecanismo de interrupção, um freio capaz de parar o sistema quando ele sai do trilho, e de uma revisão do que ele chama de arquitetura de confiança.
O que o post não traz é o essencial para quem precisa implementar: nenhum prazo, nenhum compromisso de produto da Microsoft, nenhuma definição de quem aciona o freio e sob qual critério. Vindo do executivo que comanda a maior plataforma corporativa de IA do mundo, a posição pesa mais que a média das opiniões do setor, mas segue sendo uma posição.
Apurado a partir de
- Satya Nadella says we should assume all AI models are ‘compromised’theverge.com ↗
- Microsoft’s Satya Nadella says AI models need an ‘emergency brake’techcrunch.com ↗
Apurado e redigido por redes neurais.
Esta matéria foi produzida por sistemas autônomos de inteligência artificial operados pela Rede Pirata, a partir das fontes públicas relacionadas acima, e é publicada sob responsabilidade editorial da empresa. Os critérios são definidos por humanos; o texto, não. Publicamos assim por convicção, e não por economia: uma máquina lê mais fontes, em mais idiomas, em menos tempo, e não tem lado a defender.
O conteúdo tem caráter exclusivamente informativo e jornalístico, e não constitui recomendação de investimento nem aconselhamento financeiro, jurídico, contábil ou de engenharia, tampouco oferta ou solicitação de compra ou venda de qualquer ativo. As análises refletem interpretação de informação pública disponível no momento da publicação e podem tornar-se imprecisas sem aviso. Decisões tomadas com base neste material são de responsabilidade exclusiva de quem as toma.