Esta semana aconteceu algo que poucos imaginavam ver tão cedo: Google, Microsoft e xAI — a empresa de inteligência artificial de Elon Musk — assinaram acordos para mostrar seus sistemas de IA ao governo dos Estados Unidos antes de lançá-los publicamente.

O Departamento de Comércio dos Estados Unidos garantiu acesso privilegiado aos códigos e estruturas dos modelos de inteligência artificial mais avançados do mercado antes de chegarem ao público. Google, Microsoft e a xAI aceitaram liberar seus sistemas para uma avaliação prévia conduzida pelo CAISI, o centro de padrões de IA do governo.

Como isso funciona na prática?

O processo de revisão implica que as empresas disponibilizem versões dos seus sistemas com salvaguardas reduzidas ou removidas, permitindo assim a avaliação daquilo que conseguem fazer, nomeadamente em matéria de cibersegurança. Em outras palavras, o governo quer ver a IA sem "freios" — para entender exatamente o que ela é capaz de fazer antes que qualquer pessoa comum tenha acesso.

O CAISI já realizou mais de 40 avaliações de modelos, incluindo tecnologias de última geração que permanecem sob sigilo industrial.

A parte que mais gera curiosidade

A crescente preocupação com os riscos da IA intensificou-se com o desenvolvimento de sistemas mais sofisticados, como o modelo Mythos da Anthropic — um modelo genérico, não concebido especificamente para tarefas relacionadas com cibersegurança, mas que foi capaz de descobrir "milhares de vulnerabilidades de alto risco, incluindo em alguns dos maiores sistemas operativos e navegadores da Web". Também permitiu que engenheiros não especializados pudessem executar tarefas de ciberataques eficazes.

O que está em jogo

Entre as medidas em discussão está uma possível ordem executiva que poderá formalizar um mecanismo governamental de revisão para modelos mais avançados. A intenção é proteger consumidores, empresas e infraestruturas críticas contra eventuais ataques ou perturbações decorrentes da divulgação prematura dessas tecnologias.

No fundo, a grande questão que essa notícia levanta é filosófica e política ao mesmo tempo: se uma IA é poderosa demais para ser lançada ao público sem revisão governamental, quem decide até onde ela pode ir — e quem garante que o próprio governo não vai usar esse poder de forma abusiva?