O que é prompt leaking, quem pode ser afetado, quando o risco se tornou relevante, onde ocorre e por que representa ameaça foram detalhados por especialistas: trata‑se da exposição indevida de instruções internas de grandes modelos de linguagem (LLM) que podem ser reveladas ao usuário durante interações, segundo a OWASP, que listou o problema entre os dez principais riscos de IA generativa em 2025.

Como o vazamento acontece

O prompt de sistema funciona como um briefing que orienta o comportamento do assistente; embora invisível ao usuário, ele influencia cada resposta. De acordo com a IBM, um comando bem formulado pode induzir o modelo a reproduzir partes desse briefing, expondo regras operacionais, senhas ou dados de clientes quando o chatbot tem acesso a essas informações.

Medidas de prevenção

Para reduzir o risco, a OWASP recomenda limitar o acesso ao prompt de sistema, aplicar filtros que detectem tentativas de extração e auditar periodicamente as respostas geradas. A IBM acrescenta que a segregação de dados sensíveis e a revisão de instruções antes da implantação são práticas essenciais para impedir que informações confidenciais sejam divulgadas.