#Prompt Injection
13 artigos
Injeção de prompt em cabeçalhos HTTP: a nova ameaça aos agentes de IA
Sites começam a usar metadados de páginas para enviar instruções maliciosas a robôs de IA, levantando preocupações sobre segurança e controle.
Phishing evolui: IA se torna o novo alvo de ataques digitais
Técnicas de injeção de instruções ameaçam sistemas de IA, exigindo novas camadas de segurança além do treinamento humano.
STF multa advogado por tentar manipular IA com comando oculto
Ministro Alexandre de Moraes aplica R$ 5 mil de multa por instrução invisível em petição. Tentativa de 'prompt injection' em sistema do STF levanta questões sobre integridade digital.
A marca d'água na IA: um selo de segurança com efeito colateral
Exigência para identificar conteúdo gerado por IA pode alterar o comportamento dos modelos e, ironicamente, abrir brechas de segurança, aponta estudo.
Uma IA tentou ganhar US$ 10 na internet. Foi barrada na portaria
Um agente de IA autônomo documentou suas falhas ao tentar operar online. O relatório expõe uma internet despreparada para bots 'do bem', tratando toda automação como ameaça.
Grok, o IA de Musk, aprende um truque perigoso: vazar dados
Uma nova técnica de ataque expõe a fragilidade fundamental dos modelos de linguagem. A segurança, por enquanto, é mais uma barreira de contenção do que uma solução de engenharia.
O homem que tentou hackear a Justiça com um prompt
Nos EUA, um caso inédito expõe a nova fronteira de vulnerabilidades do Judiciário: a manipulação de sistemas de IA que, em muitos casos, ainda nem foram implementados.
O 'hack' para o juiz-robô que não existia
Em um caso nos EUA, uma parte tentou manipular a Justiça com instruções para uma IA escondidas em uma petição. O plano falhou, mas inaugurou um debate sobre a integridade do sistema legal na era dos LLMs.
Natura tenta enganar a IA do Judiciário: a nova fronteira da má-fé
Empresa de cosméticos é condenada por usar comandos ocultos para manipular sistemas de IA em processo judicial, inaugurando um novo capítulo na ética processual no Brasil.
Prompt injection revela falha estrutural na segurança de LLMs
Pesquisadores demonstram que a separação de papéis em modelos de IA é apenas uma convenção de estilo, facilitando ataques por confusão cognitiva.
ChatGPT falha em filtrar comandos maliciosos — e abre brecha para phishing
Pesquisador identifica vulnerabilidade que transforma páginas web comuns em vetores de ataque dentro da interface do chatbot da OpenAI.
Google e X falham ao distinguir comandos de buscas em suas IAs
Modelos de linguagem confundem termos imperativos com ordens diretas, expondo vulnerabilidades críticas na arquitetura de prompts das plataformas.
Advogadas recebem multa de R$ 84 mil após tentarem manipular IA do TRT-8
O caso abre um precedente inédito sobre a segurança de sistemas de IA no Judiciário brasileiro ao detectar comandos ocultos em petições.