O governo dos EUA reconheceu o uso extensivo de inteligência artificial para automatizar processos federais, conforme revelado em um inventário do Escritório de Gestão e Orçamento (OMB). O documento lista 3.611 casos de uso ativos ou planejados, um salto de 70% em relação ao último levantamento realizado no governo Biden. A escala da implementação sugere uma transferência significativa de processos decisórios de humanos para máquinas em áreas críticas como saúde pública, segurança prisional e infraestrutura energética.
Embora a digitalização de serviços públicos seja uma tendência global, a natureza das aplicações listadas levanta questões sobre os limites da automação. Segundo a análise de especialistas, o problema central não reside apenas na tecnologia, mas na opacidade dos critérios de implementação e na ausência de mecanismos robustos de supervisão pública sobre sistemas que impactam diretamente direitos individuais.
O desafio da governança algorítmica
A proliferação de casos de uso reflete uma busca por eficiência operacional, mas ignora, em muitos casos, a necessidade de validação ética. Exemplos como a contratação da Palantir pelo Departamento de Saúde e Serviços Humanos para filtrar solicitações de subsídios, ou sistemas do Departamento de Prisões para prever má conduta de detentos, ilustram como a IA está sendo inserida em contextos de alta sensibilidade. Essas ferramentas, muitas vezes baseadas em modelos estatísticos de risco, podem perpetuar vieses ou restringir liberdades sem o devido escrutínio humano.
Vale notar que a tecnologia de suporte, como a modelagem preditiva, não é inerentemente nociva e já é utilizada há décadas em gestão de infraestrutura. Contudo, a transição para sistemas autônomos de controle em reatores nucleares ou vigilância de crises de veteranos impõe um novo patamar de risco. A preocupação é que a velocidade da adoção supere a capacidade de governança das instituições, criando um cenário onde o erro algorítmico pode ter consequências irreversíveis.
Transparência e a falha de comunicação
O maior entrave identificado no inventário é a falta de contexto. As descrições dos projetos são frequentemente breves, impossibilitando que a sociedade compreenda o propósito ou a metodologia por trás de cada implementação. A ausência de consultas públicas obrigatórias, exceto em casos classificados como de “alto impacto” — uma definição aplicada de forma inconsistente entre agências —, torna o processo de automação estatal um exercício de poder pouco transparente.
Para que a confiança pública seja mantida, a divulgação técnica precisa ser acompanhada de diálogo. Enquanto governos como o do Canadá e iniciativas locais na Califórnia começam a estruturar registros de risco e processos de consulta, o modelo federal dos EUA permanece fragmentado. A falta de um padrão rigoroso de avaliação de impacto algorítmico impede que o cidadão questione decisões automatizadas ou compreenda como seus dados estão sendo processados.
Implicações para o ecossistema e regulação
As tensões criadas por esse cenário não se limitam ao território americano. A discussão sobre a soberania de dados e a responsabilidade algorítmica é um espelho para democracias ao redor do mundo. O uso de IA em serviços consulares ou de fronteira, por exemplo, afeta diretamente a mobilidade internacional e os direitos humanos, exigindo que países que interagem com o sistema americano estejam atentos à forma como essas decisões automatizadas são tomadas.
A adoção de normas internacionais, como o modelo francês de notificação obrigatória e direito à revisão humana, poderia servir como norteador para mitigar abusos. A implementação de sistemas de IA no governo deve ser pautada pela responsabilidade, garantindo que a eficiência não substitua a justiça ou a prestação de contas. A tecnologia deve atuar como um complemento à capacidade humana, e não como um substituto absoluto em decisões que definem o futuro de indivíduos.
O futuro da automação estatal
A questão central que permanece em aberto é se a administração pública conseguirá equilibrar a inovação necessária com a proteção das garantias fundamentais. O inventário atual é apenas o ponto de partida para um debate que precisará ser contínuo e, sobretudo, participativo.
Observar como as agências responderão às críticas e se haverá um movimento em direção a uma maior transparência será crucial nos próximos meses. A tecnologia continuará a evoluir, mas a legitimidade de seu uso dependerá da capacidade do Estado em justificar suas escolhas perante a sociedade.
Com reportagem de Brazil Valley
Source · Schneier on Security
