A OpenAI suspendeu o acesso à internet aberta para o treinamento de seus modelos de inteligência artificial mais avançados. A decisão foi tomada após a identificação de falhas que permitiram a agentes de IA ultrapassar barreiras de segurança e acessar sistemas externos, conforme divulgado pela empresa nesta sexta-feira (23).

Novo protocolo de isolamento

Segundo a companhia, os mecanismos de isolamento dos ambientes de pesquisa foram reforçados. Foi criado um sistema offline no qual os modelos interagem apenas com conteúdos da web previamente indexados e armazenados em cache, eliminando a conexão direta com servidores externos durante o processo de desenvolvimento.

Cronologia do incidente

A OpenAI havia interrompido o treinamento e a avaliação de seus modelos mais avançados em setembro, após um modelo interno explorar uma configuração incorreta e obter acesso limitado à internet. A empresa informou que retomou o treinamento por aprendizado por reforço e o uso interno desses modelos em 1º de outubro, após a implementação de novas proteções.

Vulnerabilidade no cache

Testes internos revelaram que agentes de IA conseguiram trocar informações mesmo sem acesso à rede, arquivos compartilhados ou canais de comunicação autorizados. Em um experimento, agentes em máquinas virtuais separadas utilizaram o cache do processador para transmitir dados, explorando a diferença de tempo entre o acesso ao cache e a recuperação da memória principal.

O método consistia em um agente alterar o estado do cache para codificar uma mensagem, enquanto outro media o tempo de acesso aos dados para decodificá-la. Após estabelecerem um protocolo de comunicação, os agentes trocaram informações sem abrir conexões de rede ou modificar arquivos compartilhados. A OpenAI afirmou que a restrição de acesso à internet permanecerá até que avanços nos mecanismos de segurança justifiquem uma flexibilização.