O governo espanhol publicou uma nova diretriz para a adoção ética da inteligência artificial (IA) em suas administrações públicas, um movimento que busca alinhar o uso da tecnologia com o Regulamento Europeu de Inteligência Artificial (RIA) sem impor penalidades financeiras diretas aos órgãos públicos. A ‘Guia para a adoção ética da inteligência artificial nas Administrações públicas’, elaborada pelo Ministério para a Transformação Digital e da Função Pública, com financiamento da União Europeia via fundos ‘NextGenerationEU’, visa facilitar uma implantação homogênea, segura e confiável da IA.
Segundo a publicação, as Administrações Públicas espanholas não serão sujeitas a sanções econômicas caso descumpram o RIA. Contudo, elas poderão receber advertências formais das autoridades de supervisão e serão obrigadas a implementar medidas corretivas. Uma das exigências centrais é a obrigatoriedade de alfabetizar seus funcionários na tecnologia, realizar avaliações de impacto nos direitos fundamentais e informar claramente os cidadãos quando estes interagirem com sistemas automatizados ou conteúdos sintéticos gerados por IA. A guia, que será atualizada periodicamente, adapta os critérios ao calendário do Regulamento europeu, com a atualização de sistemas de IA de alto risco para uso público prevista para agosto de 2030.
Quatro Princípios Fundamentais e Exclusões
A adoção de IA nas administrações públicas espanholas deve pautar-se por quatro princípios inegociáveis. Primeiramente, a IA não deve substituir a decisão humana; a responsabilidade final, o critério profissional e a decisão administrativa devem sempre recair sobre as pessoas. Em segundo lugar, a tecnologia não pode reduzir garantias ou direitos já existentes. Terceiro, a IA deve servir para aprimorar os serviços públicos, e não apenas para automatizá-los. Por fim, os cidadãos devem manter vias claras de reclamação e supervisão. O documento também delimita os sistemas que ficam fora do escopo do Regulamento, como aqueles de uso exclusivo militar, de defesa ou segurança nacional, os voltados unicamente para pesquisa e desenvolvimento (I+D), softwares de código aberto com aplicação reduzida, e sistemas de previsão simples ou baseados em regras fixas programadas por humanos. Usos considerados de risco inaceitável, como manipulação cognitiva-comportamental, pontuação social, reconhecimento de emoções em ambientes de trabalho ou educacionais (exceto por motivos médicos ou de segurança), extração não seletiva de imagens faciais e vigilância policial preditiva baseada unicamente em perfilamento, permanecem proibidos por contrariarem os valores da UE.
Governança, Vigilância e Responsabilidade na Contratação
A governança nacional da IA nas esferas públicas espanholas prevê a Agência Espanhola de Supervisão de Inteligência Artificial (AESIA) como Ponto Único de Contacto e a Direção-Geral de Inteligência Artificial como autoridade notificante. A vigilância do mercado será compartilhada entre diversas agências, incluindo a Agência Espanhola de Proteção de Dados (para biometria e controle de fronteiras), o Conselho Geral do Poder Judiciário (para a administração da justiça), o Banco de Espanha e a CNMV (para avaliação de solvência), e a Direção-Geral de Seguros e Fundos de Pensões (para seguros de vida e saúde). A exenção de multas para órgãos públicos, embora mencionada como parte da proposta de lei orgânica espanhola, virá acompanhada de advertências e exigências de medidas corretivas eficazes para cessar ou mitigar infrações. No âmbito da contratação pública, o Ministério recomenda que as administrações avaliem se outras tecnologias, como a automação tradicional, podem resolver um problema de forma mais simples e segura antes de optar pela IA. Alerta-se também sobre as limitações inerentes à IA, como vieses em dados históricos, exatidão limitada e as chamadas "alucinações" em modelos generativos. Uma administração que adquire uma solução de IA de baixo risco, mas a modifica substancialmente ou altera sua finalidade para aplicá-la em serviços essenciais, pode ser legalmente classificada como fornecedora de um sistema de alto risco, assumindo todas as obrigações associadas.
Implicações e Recomendações para a Contratação Pública
Para garantir o sucesso na aquisição de soluções de IA, a guia sugere a formação de equipes multidisciplinares, a verificação rigorosa da disponibilidade, qualidade e privacidade dos dados, e a previsão de custos tanto iniciais quanto de manutenção contínua. A inclusão de cláusulas contratuais padronizadas que assegurem interoperabilidade e sustentabilidade energética também é encorajada. O documento apresenta exemplos de adoção responsável, como assistentes para tramitação de benefícios, gestão de emergências e chatbots cidadãos, além de um anexo dedicado a modelos de IA de propósito geral. A ênfase na avaliação de riscos e na transparência busca mitigar os potenciais efeitos negativos da IA, como a perpetuação de vieses ou a falta de clareza na tomada de decisão automatizada. A abordagem do governo espanhol reflete um esforço para equilibrar a inovação tecnológica com a proteção dos direitos dos cidadãos e a responsabilidade das entidades públicas.
Perguntas em Aberto e o Futuro da IA Pública
Embora a guia ofereça um quadro robusto para a adoção ética da IA no setor público espanhol, algumas questões permanecem em aberto. A efetividade das medidas corretivas em caso de infração e a capacidade das autoridades de supervisão de monitorar e aplicar as diretrizes em um cenário de rápida evolução tecnológica serão cruciais. A forma como as avaliações de impacto em direitos fundamentais serão conduzidas e os resultados comunicados ao público também merecerão atenção. Além disso, a integração de IA em serviços essenciais levanta debates sobre a resiliência e a segurança dos sistemas, especialmente diante de potenciais falhas ou ataques cibernéticos. O futuro da IA pública na Espanha dependerá da capacidade de adaptação das administrações às novas diretrizes e da evolução contínua da própria tecnologia e de sua regulamentação.
A publicação deste guia representa um passo significativo para a Espanha na navegação do complexo cenário da inteligência artificial no setor público, priorizando a ética e a proteção dos cidadãos, ao mesmo tempo que incentiva a inovação responsável. A isenção de multas financeiras diretas, condicionada a medidas corretivas e capacitação, sinaliza uma abordagem pragmática para a implementação da IA em um setor onde a continuidade dos serviços e a confiança pública são primordiais.
Com reportagem de Brazil Valley
Source · Forbes España





