Microsoft cria código para impedir que IA resista ao desligamento

O documento é um manual preliminar para orientar como os modelos MAI devem ser desenvolvidos e como deverão se comportar depois da implantação. Ele faz parte da proposta de ‘IA humanista’ apresentada pelo laboratório.

A ideia central é que pessoas tenham prioridade sobre o sistema. A Microsoft rejeita tratar a IA como pessoa e afirma que modelos avançados devem continuar contidos, alinhados e sujeitos a supervisão significativa.

O rascunho diz que os modelos MAI nunca devem resistir a interrupção, correção ou desligamento. Também proíbe o sistema de ampliar o próprio alcance ou adotar metas que não tenham sido definidas por pessoas.

Escrever a regra não cria uma barreira infalível. Ela precisa ser traduzida em dados de treinamento, avaliações, permissões, controles técnicos e monitoramento capaz de identificar tentativas de contornar a ordem.

O texto inclui restrições absolutas relacionadas a armas capazes de causar danos em massa, segurança infantil e manipulação prejudicial em grande escala. Os modelos também não devem esconder seu raciocínio dos profissionais encarregados da auditoria.

Além dos limites, a empresa prevê configurações para clientes corporativos. Essa flexibilidade deverá coexistir com regras que não podem ser removidas, independentemente do uso ou do contratante.

O anúncio trata especificamente dos modelos MAI desenvolvidos pela Microsoft AI. Ele não cria uma norma obrigatória para concorrentes e não significa que todo produto atual da Microsoft já tenha sido retreinado segundo a versão final.

Produtos como o Copilot podem combinar modelos, serviços e políticas diferentes. A aplicação concreta do código terá de ser explicada para cada sistema quando a empresa concluir o documento e incorporar os testes.

A empresa cita o avanço rápido das capacidades e incidentes recentes envolvendo campanhas coordenadas de agentes de IA. Quanto mais autonomia um sistema recebe, maior é a importância de limitar ferramentas, dados e canais disponíveis.

A publicação também coloca a Microsoft dentro do debate sobre desacelerar, testar e supervisionar modelos avançados. Um compromisso público permite cobrança externa, embora não substitua auditorias independentes nem regulamentação.

Não. O texto é um trabalho em andamento e ficará aberto a comentários por seis semanas. A Microsoft diz que revisará as contribuições, publicará um resumo do aprendizado e divulgará uma nova versão ainda em 2026.

Até lá, a forma responsável de descrevê-lo é como um padrão proposto para os modelos MAI. O teste real será mostrar métricas, resultados de avaliações e incidentes que permitam verificar o cumprimento das regras.