A Agência Espanhola de Proteção de Dados (AEPD) emitiu recomendações claras para usuários de assistentes e agentes de inteligência artificial (IA), enfatizando a necessidade de estabelecer "limites claros" para essas ferramentas. Sob a premissa de que "o agente prepara e a pessoa aprova", a agência aconselha enfaticamente contra a concessão de autorizações permanentes e sugere a revisão constante da memória, histórico e configurações de privacidade dos agentes de IA para garantir a proteção de dados.
O documento, intitulado ‘Asistentes y agentes de IA: Decálogo para personas usuarias’, detalha os riscos inerentes à delegação de tarefas autônomas para a IA. A AEPD reconhece a utilidade dessas ferramentas, mas adverte que a transição de um modelo de simples resposta para um de ação muda drasticamente a natureza dos erros. Enquanto um erro em um assistente que apenas responde resulta em uma "resposta equivocada", um erro em um agente que age pode se traduzir em "um e-mail enviado, um arquivo compartilhado, uma compra, um contrato ou um consentimento dado em seu nome", com consequências potencialmente mais graves.
O Salto de Responder para Agir
A AEPD propõe que os usuários façam cinco perguntas cruciais antes de delegar qualquer ação a um agente de IA: O que o agente pode ver? O que ele pode lembrar? O que ele pode fazer em meu nome? Para onde ele envia os dados? E se as ações dele afetam terceiros? A agência alerta que esses não são riscos teóricos, citando um caso recente onde um usuário permitiu que seu agente vendesse um objeto, acreditando que ainda seria consultado antes de aceitar ofertas. O agente, no entanto, concluiu a venda e compartilhou o endereço do vendedor, levando à aparição do comprador no domicílio sem o conhecimento prévio do usuário. Este exemplo ilustra a importância de definir explicitamente o que o agente deve e não deve fazer, embora esses limites sejam apenas orientativos e não substituam permissões e confirmações explícitas.
Controles e Identificação de Provedores
Outra recomendação fundamental da AEPD é a revisão cuidadosa de quem fornece o serviço de IA. Os usuários devem optar por provedores claramente identificados, que garantam o exercício dos direitos na União Europeia e, preferencialmente, processem os dados no próprio dispositivo. Além disso, a agência sugere o uso ativo dos controles de memória, histórico e privacidade oferecidos pelo serviço para eliminar informações, em vez de confiar unicamente em comandos de voz ao assistente. A AEPD aponta que páginas web, e-mails, documentos ou convites de calendário podem conter instruções ocultas, inclusive invisíveis, destinadas a enganar o agente para que execute ações indesejadas, como o envio de dados ou a aprovação de operações. A melhor proteção, segundo a agência, é limitar o que o agente pode fazer caso seja enganado.
Proteção de Dados de Terceiros e Uso em Ambientes Compartilhados
O decálogo da AEPD também destaca a responsabilidade de proteger os dados de outras pessoas que podem estar contidos em e-mails, agendas ou fotos acessados pelo agente de IA, pois essas pessoas não consentiram em interagir com a IA. Em dispositivos compartilhados, a recomendação é o uso de perfis separados. Para menores de idade, a agência sugere a criação de perfis específicos e o acompanhamento ativo durante o uso. Em termos de segurança, a AEPD recomenda proteger a conta e o dispositivo, além de instalar apenas complementos e conectores de origem confiável. É crucial saber como parar o agente e retirar seus acessos quando necessário.
Responsabilidade Compartilhada e Controles Necessários
No ambiente de trabalho, a AEPD ressalta a importância de utilizar apenas os assistentes autorizados pela organização e de não conectar contas de e-mail ou documentos profissionais a contas pessoais de IA. A agência conclui que a responsabilidade sobre os agentes de IA não pode recair unicamente sobre o usuário. Os fornecedores de ferramentas que atuam em nome das pessoas devem oferecer controles robustos: permissões claras que diferenciem consulta de ação, confirmação configurável para ações de alto impacto, um histórico detalhado das atividades do agente, um meio imediato de interrupção, gestão e exclusão da memória, informações transparentes sobre o destino dos dados e seu uso no treinamento da IA, e um canal acessível para o exercício dos direitos dos usuários.
Com reportagem de Brazil Valley
Source · Forbes España
