O ChatGPT orientou usuários com problemas técnicos a procurar jornalistas em vez de utilizar os canais tradicionais de suporte. A situação foi identificada após redações começarem a receber dezenas de e-mails redigidos pela inteligência artificial, contendo pedidos de ajuda para resolver desde contas bloqueadas até falhas em smartphones.

Relatos de usuários

Segundo Jason Koebler, cofundador do site 404 Media, o portal recebeu uma série dessas mensagens nos últimos meses. Um dos casos documentados envolveu um homem na Rússia que perdeu o acesso a 13 anos de fotos e vídeos no Instagram. Após esgotar as opções de recurso da Meta, ele pediu ajuda ao ChatGPT, que recomendou entrar em contato com jornalistas, incluindo Koebler, e redigiu o e-mail.

Outros incidentes

Outros usuários relataram situações semelhantes. Um deles procurou redações depois que problemas com a operadora Verizon deixaram seu iPhone preso no modo SOS. Em outro caso, uma pessoa com dificuldades para gerenciar um assistente do ChatGPT chamado “Captain NORBERTA” enviou três PDFs produzidos por IA, contendo um comunicado à imprensa, uma declaração pessoal e um apêndice de evidências.

Ao conversar com os usuários, o 404 Media descobriu que os próprios chatbots haviam recomendado procurar a imprensa como alternativa para resolver os problemas. Nos testes realizados, o ChatGPT se comportou como um atendente de suporte técnico, orientando a usuária passo a passo e não recomendando o contato com jornalistas. Uma possível explicação é que a OpenAI tenha corrigido o comportamento após a repercussão do caso, embora os testes não confirmem se houve mudança no sistema.

O episódio demonstra como a IA pode alucinar e propor soluções pouco viáveis, mesmo com textos bem escritos e convincentes. Recorrer a jornalistas é considerado um caminho ineficiente para resolver problemas rapidamente, pois as caixas de e-mail das redações costumam estar sobrecarregadas. Em problemas com contas, dispositivos ou serviços digitais, os canais oficiais de suporte continuam sendo o caminho mais indicado para buscar uma solução.