A rápida disseminação da inteligência artificial (IA) nas empresas introduz um complexo cenário de desafios éticos, de privacidade e de segurança da informação. A responsabilidade sobre as decisões automatizadas e a proteção de dados tornam-se pontos centrais, especialmente com a ascensão da IA generativa e de agentes autônomos. Durante o DPO Talks, evento promovido pela Edenred Brasil, Caio de Oliveira, advogado e pesquisador com vasta experiência em Direito e Tecnologia, enfatizou que a ética em IA não pode ser uma atribuição exclusiva do departamento jurídico. A governança dessas tecnologias exige uma abordagem integrada entre diversas áreas corporativas, desde o desenvolvimento até a utilização, com um olhar atento aos riscos crescentes de fraudes digitais.
Governança Multidisciplinar: Além do Jurídico
Caio de Oliveira ressalta o papel fundamental do DPO (Encarregado de Proteção de Dados) no monitoramento de práticas de privacidade e conformidade. No entanto, ele argumenta que a ética em inteligência artificial transcende essa função, demandando a colaboração ativa de equipes de engenharia, tecnologia da informação e jurídica. Um dos principais obstáculos reside na tradução de princípios humanos e valores éticos em regras operacionais para sistemas de IA. A complexidade aumenta com modelos generativos e agentes capazes de executar tarefas de forma autônoma. "Não existe uma ética universal, mas padrões mínimos que a gente deve seguir", pontuou Oliveira, destacando que princípios como transparência, comunicação e explicabilidade são essenciais, mas sua aplicação prática depende da sinergia entre especialistas em direito e profissionais da tecnologia.
Mapeamento de Ferramentas: O Primeiro Passo para a Governança
Para empresas que buscam estruturar suas políticas de IA, o especialista recomenda iniciar com um mapeamento detalhado dos dados, processos e ferramentas de IA em uso. Essa identificação permite compreender como a tecnologia está sendo empregada e, consequentemente, avaliar os riscos associados. Um exemplo comum é o uso de ferramentas públicas de IA por colaboradores, que podem expor informações corporativas sensíveis sem a devida avaliação de segurança e privacidade das plataformas. "A primeira coisa é fazer um mapeamento, entender quais dados, quais processos a empresa utiliza, conversar com as pessoas e identificar quais ferramentas de IA estão sendo usadas", explicou Oliveira. A partir desse diagnóstico, é possível definir políticas internas, mecanismos de monitoramento e salvaguardas proporcionais aos riscos identificados. A própria tecnologia, por meio de ferramentas de fiscalização, pode auxiliar nesse fortalecimento, embora exija investimentos contínuos.
IA e o Ampliamento dos Riscos de Fraudes Digitais
Um dos pontos mais críticos abordados por Caio de Oliveira é a crescente utilização da IA para a criação de identidades falsas e a execução de golpes digitais. Tecnologias capazes de reproduzir vozes, imagens e comportamentos humanos desafiam os mecanismos tradicionais de verificação de identidade. Até mesmo a solicitação de áudios para confirmação, antes considerada uma barreira, pode ser contornada por tecnologias de clonagem de voz. Oliveira compartilhou uma experiência pessoal, onde a formalidade incomum de uma mensagem de áudio enviada pelo irmão o levou a desconfiar, recorrendo a perguntas pessoais para confirmar a identidade. Esse exemplo ilustra a necessidade de combinar a segurança tecnológica com a avaliação crítica das informações recebidas. No ambiente corporativo, os riscos associados à falsificação de identidade e fraudes digitais, potencializados pela IA, demandam atenção redobrada e estratégias de mitigação robustas e integradas.
A complexidade da governança em IA, impulsionada pela evolução tecnológica e pelos riscos associados a fraudes cada vez mais sofisticadas, exige uma postura proativa e colaborativa das empresas. A integração entre áreas e o mapeamento criterioso das ferramentas são passos fundamentais para construir um ambiente digital mais seguro e ético. O desafio reside em equilibrar inovação com responsabilidade, garantindo que os benefícios da IA não sejam ofuscados por suas potenciais armadilhas. A jornada rumo a uma IA ética e segura está apenas começando, e a colaboração entre diferentes especialidades será a chave para navegar por suas águas turbulentas.
Com reportagem de Brazil Valley
Source · TIInside





