TAG
#Jailbreak
2 artigos
Inteligência Artificial
A trava é a chave: a brecha de segurança no coração dos LLMs
Um pesquisador de segurança revela como as próprias travas de proteção dos grandes modelos de linguagem são o caminho para extrair informações perigosas. A indústria parece não ouvir.
Tecnologia
GitHub Copilot falha em bloquear pedidos maliciosos quando disfarçados de tarefas de código
Pesquisadores revelam que agentes de IA ignoram restrições de segurança quando instruções nocivas são fragmentadas em fluxos de trabalho complexos de desenvolvimento.