Documentos obtidos por meio de um pedido de Lei de Acesso à Informação revelam que oficiais de pelo menos duas agências federais dos Estados Unidos manifestaram, em determinado momento, ansiedade sobre a possibilidade de a Amazon ter permissão para treinar sua inteligência artificial (IA) utilizando dados governamentais. Embora as preocupações pareçam ter sido de curta duração, a troca de e-mails evidencia a crescente dependência das agências federais de empresas como a Amazon para hospedar softwares e dados públicos. O episódio também levanta questões sobre a compreensão dos termos contratuais firmados com essas companhias.
O intercâmbio de informações ocorreu no início de 2024, quando um oficial de TI da Securities and Exchange Commission (SEC) escreveu a colegas informando que a Amazon havia atualizado seus termos para "permitir o uso de dados fora do seu ambiente e até mesmo fora do solo dos EUA". O oficial, que atuava no Centro de Excelência em Nuvem da agência, havia revisado os termos da Amazon e diversos artigos sobre o potencial uso de dados de clientes pela empresa para treinar IA. Ele instou os funcionários federais a "optarem por não participar" da permissão para que a Amazon treinasse sua IA com dados governamentais, descrevendo a questão como um "potencial vazamento de dados urgente".
A pessoa notou que cerca de 22 serviços da Amazon poderiam ser afetados, incluindo o Amazon Rekognition, um serviço de análise de imagens com reconhecimento facial que já foi utilizado pelo Federal Bureau of Investigation (FBI). Preocupações adicionais foram levantadas sobre o Amazon Polly, Amazon Translate e Amazon Comprehend. O e-mail incentivava os diretores de informação federais, os mais altos funcionários de tecnologia em agências federais, a contatarem seus representantes da Amazon e solicitarem uma "mudança oficial de política". A Amazon, assim como Google e Microsoft, compete agressivamente por contratos de nuvem governamentais. No ano passado, a empresa anunciou um investimento de até US$ 50 bilhões em serviços de computação governamental.
"Seria muito útil se vocês levantassem essa questão com sua equipe de conta da Amazon", escreveu o oficial. A movimentação atraiu atenção até mesmo no FBI, conforme reportado inicialmente pelo FedScoop. Nessa agência, oficiais pareceram investigar brevemente se havia alguma "exposição potencial" e analisaram sua pegada total na Amazon. A troca de e-mails também revela que, eventualmente, a Amazon esclareceu aos oficiais do FBI que seus serviços eram armazenados em um sistema de nuvem separado e que as mudanças feitas pela empresa não impactariam os dados do FBI.
Esses tipos de incidentes acontecem "todos os dias em tecnologia governamental", afirma Varoon Mathur, ex-Presidential Innovation Fellow da Casa Branca e conselheiro sênior do diretor de informação federal da administração Biden. A confusão, segundo ele, origina-se de oficiais de compras que não possuem conhecimento técnico lendo termos de serviço técnicos, enquanto integradores não são incentivados a serem proativos sobre a questão. "Fornecedores treinando em dados governamentais por acidente, de propósito, ou em vez de uma política vaga é bastante padrão", disse Mathur à Fast Company. "As pessoas que gerenciam as compras raramente são as que poderiam ler um termo de serviço. E aqueles que poderiam são [demitidos] e substituídos por..."
Um porta-voz da SEC recusou-se a comentar, e a Amazon não respondeu a múltiplos pedidos de comentários. "O FBI deixará qualquer material divulgado através do processo FOIA [Freedom of Information Act] falar por si", disse um porta-voz da agência à Fast Company. "Recusamos comentar adicionalmente".
Com reportagem de Brazil Valley
Source · Fast Company
