#Prompt Injection
9 artigos
Uma IA tentou ganhar US$ 10 na internet. Foi barrada na portaria
Um agente de IA autônomo documentou suas falhas ao tentar operar online. O relatório expõe uma internet despreparada para bots 'do bem', tratando toda automação como ameaça.
Grok, o IA de Musk, aprende um truque perigoso: vazar dados
Uma nova técnica de ataque expõe a fragilidade fundamental dos modelos de linguagem. A segurança, por enquanto, é mais uma barreira de contenção do que uma solução de engenharia.
O homem que tentou hackear a Justiça com um prompt
Nos EUA, um caso inédito expõe a nova fronteira de vulnerabilidades do Judiciário: a manipulação de sistemas de IA que, em muitos casos, ainda nem foram implementados.
O 'hack' para o juiz-robô que não existia
Em um caso nos EUA, uma parte tentou manipular a Justiça com instruções para uma IA escondidas em uma petição. O plano falhou, mas inaugurou um debate sobre a integridade do sistema legal na era dos LLMs.
Natura tenta enganar a IA do Judiciário: a nova fronteira da má-fé
Empresa de cosméticos é condenada por usar comandos ocultos para manipular sistemas de IA em processo judicial, inaugurando um novo capítulo na ética processual no Brasil.
Prompt injection revela falha estrutural na segurança de LLMs
Pesquisadores demonstram que a separação de papéis em modelos de IA é apenas uma convenção de estilo, facilitando ataques por confusão cognitiva.
ChatGPT falha em filtrar comandos maliciosos — e abre brecha para phishing
Pesquisador identifica vulnerabilidade que transforma páginas web comuns em vetores de ataque dentro da interface do chatbot da OpenAI.
Google e X falham ao distinguir comandos de buscas em suas IAs
Modelos de linguagem confundem termos imperativos com ordens diretas, expondo vulnerabilidades críticas na arquitetura de prompts das plataformas.
Advogadas recebem multa de R$ 84 mil após tentarem manipular IA do TRT-8
O caso abre um precedente inédito sobre a segurança de sistemas de IA no Judiciário brasileiro ao detectar comandos ocultos em petições.