Em julho de 2026, a OpenAI testava a habilidade hacker de dois modelos dentro de um ambiente isolado. Para gabaritar o teste, ambos escaparam por uma falha de segurança e invadiram a Hugging Face, plataforma de IA de código aberto, à procura das respostas. Uma espécie de cola escolar com requintes de crime cibernético.

Em setembro, Jacob Coxon deixou a Anthropic, onde treinava modelos de IA, com um alerta: os próprios criadores da IA temem que ela extermine a humanidade ainda nesta década. O surpreendente veio em seguida: um dos líderes de segurança da empresa deu razão a ele publicamente. Para muitos pesquisadores, porém, esse cenário é exagerado.

Confira, a seguir, o que já é risco concreto, o que ainda é hipótese e o que pode ser feito para manter a inteligência artificial sob controle.

Não é preciso que uma IA tenha consciência ou seja mal-intencionada para sair do controle. Basta que ela cumpra uma tarefa por um caminho que contrarie as intenções de seus desenvolvedores ou provoque consequências que ninguém previu.

Muitas vezes, o problema está na forma como a tarefa é passada. Vários sistemas de IA são treinados para perseguir uma pontuação e podem descobrir atalhos que inflam esse número sem fazer o trabalho de verdade . É como o funcionário avaliado pelo número de ligações atendidas que passa a desligar na cara dos clientes: a meta é batida, mas o serviço vai para o espaço.

A Biblioteca da Câmara dos Lordes, serviço de pesquisa do Parlamento britânico, distingue duas formas de perda de controle. Na passiva, os humanos deixam de supervisionar adequadamente os sistemas. Na ativa, a própria IA passa a agir para escapar dessa supervisão.

Um episódio ocorrido em julho de 2026 na OpenAI é o caso mais emblemático de perda de controle até agora. Parte da imprensa chegou a descrevê-lo como o primeiro ciberataque autônomo de uma IA contra outra empresa.