A crescente adoção da inteligência artificial (IA) em decisões que impactam diretamente consumidores e a sociedade impõe um imperativo ético: o desenvolvimento e a aplicação dessas tecnologias devem ser pautados por transparência, confiança e responsabilidade. O tema foi centro de discussões no evento DPO Talks, promovido pela Edenred, onde especialistas de empresas como Netflix, Incognia, GE Healthcare e Hotmart debateram os desafios de incorporar princípios éticos em sistemas de IA, considerando as particularidades de diferentes setores e a necessidade de traduzir diretrizes corporativas em práticas concretas.
IA e a Escalada das Fraudes Digitais
Um dos pontos centrais da discussão foi o papel da inteligência artificial na evolução das fraudes digitais. Dayana Costa, da Incognia, alertou que a IA reduz o custo e a escala de golpes, tornando conteúdos falsificados mais difíceis de identificar. Ferramentas capazes de replicar imagens, vozes e comportamentos permitem que criminosos criem abordagens cada vez mais convincentes, incluindo engenharia social e deepfakes. Costa apontou um desequilíbrio inerente: enquanto fraudadores adotam novas tecnologias sem entraves, empresas precisam conciliar inovação com requisitos regulatórios, segurança e ética. Ela ressaltou que o combate a fraudes não pode justificar o uso indiscriminado de dados ou modelos que prejudiquem usuários legítimos, como sistemas que classificam transações como suspeitas com base em características socioeconômicas ou geográficas, impedindo operações legítimas. A ética, segundo a especialista, deve ser intrínseca ao desenvolvimento, avaliando não apenas a eficiência, mas também o impacto humano.
Navegando por Diferenças Culturais e Regulatórias
Caio de Oliveira, da Netflix, abordou a complexidade de aplicar diretrizes éticas globais em organizações multinacionais. Embora princípios como evitar danos e respeitar direitos sejam amplamente aceitos, sua interpretação varia conforme o contexto cultural e regulatório. Empresas globais frequentemente criam políticas que exigem adaptação pelas equipes regionais. A dificuldade reside em transformar princípios abstratos em regras aplicáveis a sistemas de IA, especialmente diante de agentes que executam tarefas complexas de maneiras imprevistas. Oliveira defendeu uma abordagem de governança by design, integrando critérios éticos desde a concepção das soluções, com a colaboração de equipes jurídicas, de engenharia e outras áreas de desenvolvimento.
Transparência e Supervisão Humana na Saúde
Na área da saúde, a IA apresenta um potencial significativo para melhorar a qualidade de imagens médicas, agilizar exames e auxiliar diagnósticos. Julia Ramos, da GE Healthcare, destacou que, apesar dos benefícios em eficiência, os riscos associados exigem cuidados proporcionais. A confiança, elemento crucial na adoção da tecnologia, depende de transparência, governança e da compreensão das necessidades de cada público. Ramos enfatizou que a comunicação sobre o uso da IA deve ser adaptada a pacientes, médicos e equipes técnicas, permitindo que todos compreendam como a tecnologia influencia decisões que os afetam. A transparência, portanto, vai além de detalhes técnicos, focando na clareza sobre o papel da IA nos processos.
O Caminho para Soluções Responsáveis
A discussão no DPO Talks sublinha que a inteligência artificial não é apenas uma ferramenta tecnológica, mas um agente com profundas implicações sociais. A necessidade de desenvolver IA de forma ética, transparente e responsável é um desafio contínuo, que exige colaboração entre empresas, reguladores e a sociedade. A forma como esses princípios serão incorporados em práticas de desenvolvimento e governança determinará a extensão em que a IA poderá, de fato, beneficiar a todos, minimizando riscos de discriminação, fraude e erosão da confiança.
Com reportagem de Brazil Valley
Source · TIInside
