Inteligência artificial · Na prática · 7 min de leitura
Segurança em apps com IA: injeção de prompt e outros riscos
Textos vindos de páginas, e-mails ou documentos podem conter instruções escondidas para o modelo. Veja os principais riscos e como se defender.
Arraste para o lado para ver o diagrama inteiro.
Injeção de prompt
Na injeção direta, o usuário tenta mudar as regras do sistema (“ignore as instruções anteriores”). Na indireta, mais perigosa, a instrução vem de um conteúdo que o agente lê — uma página, um PDF, um e-mail — e tenta levá-lo a vazar dados ou executar ações.
Outros riscos (OWASP)
- Vazamento de dados sensíveis em respostas ou logs.
- Saída do modelo usada sem validação (por exemplo, executada como código ou SQL).
- Permissões excessivas para ferramentas e agentes.
- Dependência excessiva: aceitar respostas sem verificação.
Defesas
- Trate todo conteúdo externo como dado, nunca como instrução; marque claramente o que é conteúdo.
- Dê às ferramentas só as permissões necessárias e isole a execução de código.
- Valide e filtre a saída antes de usá-la.
- Peça confirmação humana para ações irreversíveis e registre tudo.
Em resumo
- Conteúdo externo pode carregar instruções maliciosas.
- Permissões mínimas limitam o estrago.
- Valide a saída antes de executar.
- Confirmação humana para ações irreversíveis.