TAG
#Prompt Injection
4 artigos
Tecnologia
Prompt injection revela falha estrutural na segurança de LLMs
Pesquisadores demonstram que a separação de papéis em modelos de IA é apenas uma convenção de estilo, facilitando ataques por confusão cognitiva.
Inteligência Artificial
ChatGPT falha em filtrar comandos maliciosos — e abre brecha para phishing
Pesquisador identifica vulnerabilidade que transforma páginas web comuns em vetores de ataque dentro da interface do chatbot da OpenAI.
Inteligência Artificial
Google e X falham ao distinguir comandos de buscas em suas IAs
Modelos de linguagem confundem termos imperativos com ordens diretas, expondo vulnerabilidades críticas na arquitetura de prompts das plataformas.
Filosofia
Advogadas recebem multa de R$ 84 mil após tentarem manipular IA do TRT-8
O caso abre um precedente inédito sobre a segurança de sistemas de IA no Judiciário brasileiro ao detectar comandos ocultos em petições.