Seis gigantes de IA aceitam auditorias externas em acordo voluntário

O documento é chamado White House Accord on Super Intelligence e traz o subtítulo Compromisso Conjunto sobre Responsabilidades de Fronteira. Ele se aplica às empresas que treinam e implantam modelos avançados e afirma que cada uma deve manter processos capazes de identificar e corrigir problemas rapidamente.

As assinaturas listadas são de Sundar Pichai, do Google; Dario Amodei, da Anthropic; Mark Zuckerberg, da Meta; Greg Brockman, da OpenAI; Elon Musk, pela xAI; e Jensen Huang, da Nvidia, além do presidente dos Estados Unidos, Donald Trump. O documento usa a expressão “superinteligência”, mas os controles descritos se referem aos atuais modelos de fronteira.

A primeira camada exige controles internos sobre capacidade e alinhamento durante treinamento e uso, com atenção a riscos cibernéticos, biológicos e químicos e a acessos não pretendidos a sistemas técnicos. A segunda prevê uma equipe interna com autoridade para verificar esses controles e cobrar correções.

A terceira propõe parceria com auditor ou avaliador externo independente. A quarta coloca um comitê independente do conselho de administração acima das equipes e dos auditores, recebendo relatórios e acompanhando a solução dos problemas encontrados.

Não. O texto afirma que as etapas poderiam ser transformadas em lei ou regulação no futuro, mas o compromisso atual não estabelece autoridade pública de fiscalização, multas, suspensão de modelos ou outra consequência automática. Trump o descreveu como moralmente vinculante, expressão política que não equivale a obrigação legal.

A Reuters observou que o acordo não declara consequências caso uma companhia deixe de cumprir o que prometeu. Isso não torna o documento irrelevante: compromissos assinados podem orientar cobrança pública e práticas internas, mas seu alcance real dependerá de transparência e verificação.

O compromisso diz que um avaliador independente deve examinar se controles, monitoramento e detecção funcionam como previsto. Ele não define quem pode ser auditor, como conflitos de interesse serão evitados, quais testes mínimos devem ser usados nem quanto dos resultados será publicado.

Sem critérios comuns, duas empresas podem chamar de auditoria processos muito diferentes. Para que a promessa seja comparável, serão importantes escopo, frequência, acesso técnico, metodologia, divulgação de falhas e prova de que as correções foram concluídas.

A Nvidia desenvolve a infraestrutura usada para treinar e executar grande parte dos modelos de IA e também mantém software e modelos próprios. A xAI, atualmente ligada à SpaceX segundo as reportagens sobre o acordo, opera modelos de fronteira. As duas ocupam posições diferentes na cadeia, mas podem influenciar práticas de segurança e acesso a capacidade computacional.

O grupo não representa toda a indústria. Microsoft, Amazon e outras empresas relevantes não aparecem entre as seis assinaturas reproduzidas no documento. Assim, o acordo não deve ser descrito como um padrão universal já adotado pelo setor.

Os participantes prometem reuniões regulares para estabelecer padrões e boas práticas. Os sinais concretos serão a publicação desses padrões, a escolha dos avaliadores, a frequência das auditorias e a existência de relatórios que permitam verificar problemas e correções sem expor informações sensíveis.

Também será necessário observar se o Congresso ou agências dos Estados Unidos transformarão alguma camada em obrigação. Até isso ocorrer, a formulação mais precisa é: seis companhias assumiram um compromisso público de autorregulação, e não receberam uma certificação de que seus modelos são seguros.