A inteligência artificial (IA) avança rapidamente, sendo integrada aos processos corporativos em um ritmo acelerado. No entanto, a decisão fundamental a ser tomada antes da adoção tecnológica não é sobre a capacidade da IA, mas sim sobre até onde a organização deseja utilizá-la e quais riscos está disposta a assumir. Essa não é uma prerrogativa exclusiva da área de Tecnologia; trata-se, antes de tudo, de uma decisão de negócio.
A governança corporativa tem o papel de estabelecer os direcionamentos para o uso da tecnologia, da informação e, agora, da inteligência artificial. Em estruturas organizacionais variadas, essas definições podem recair sobre o Conselho de Administração, a Diretoria ou, em empresas de menor porte, o próprio empreendedor. A complexidade reside na lacuna entre a discussão técnica da IA e a definição objetiva de sua autonomia, das informações que poderá tratar, das decisões que poderá tomar e das consequências aceitáveis em caso de falha.
O dilema da autonomia e do risco
O estágio atual da inteligência artificial é notavelmente recente, e muitos dos temas envolvidos em sua gestão ainda carecem de clareza para os corpos diretivos. Contudo, é precisamente a alta gestão que deve assegurar a sustentabilidade da organização, definindo os limites de risco e controle necessários para sua continuidade, independentemente da tecnologia empregada. Um exemplo prático ilustra essa questão: uma padaria pode excelência na fabricação de pães, mas decidir manter seu processo essencialmente humano, ao passo que adota IA para gestão financeira, controle de pessoal ou relacionamento com clientes. Essa escolha estratégica, que não é intrinsecamente certa ou errada, demonstra a necessidade de uma decisão consciente sobre a aplicação da IA.
Perguntas para guiar a estratégia de IA
Não há uma fórmula única ou uma solução universal para a governança da IA. O ponto de partida é compreender as aspirações da organização para, então, definir como a IA será gerenciada. Perguntas aparentemente simples, mas cruciais, precisam de respostas claras. Por exemplo, sem saber o impacto financeiro máximo aceitável em caso de uma decisão equivocada da IA, como estabelecer controles adequados? Profissionais de Segurança da Informação, Tecnologia, Gestão de Riscos, Privacidade e Conformidade têm a responsabilidade de traduzir questões técnicas em termos de negócio para a alta administração.
Implicações para a tomada de decisão e controle
Questões como a motivação para o uso da IA, sua finalidade e os resultados esperados são fundamentais. A IA poderá tomar decisões sob regras estritas? E quando as regras não estiverem claramente definidas? Qual o impacto financeiro máximo tolerável em caso de falha da IA? Cada área de negócio ou de apoio terá um gestor responsável pelas decisões e consequências do uso da IA em seus processos? Se um agente de IA desempenha funções equivalentes às humanas, qual o percentual de erro aceitável? A IA poderá tratar qualquer tipo de informação, ou existem dados restritos? Qual o nível de autonomia permitido? Um agente de IA poderá criar ou acionar outro? Quais decisões serão delegadas à IA, e quais ações exigirão intervenção humana obrigatória? A organização possui capacidade de auditar, limitar e interromper o tratamento de informações pela IA? Controles tradicionais como classificação de informação, controle de acesso, continuidade de negócio, privacidade, auditabilidade, integridade, confiabilidade e rastreabilidade devem continuar sendo considerados nos processos que envolvem IA?
O caminho adiante: respostas conscientes
As respostas a essas perguntas variam conforme o negócio, a criticidade dos processos, as informações manipuladas, a legislação e, sobretudo, os riscos que cada organização está disposta a correr. O essencial é que haja respostas conscientes. A IA representa uma nova onda de inovação, mas sua adoção não deve ser impulsionada apenas pela disponibilidade da tecnologia. Profissionais de tecnologia e controle devem auxiliar na tradução das possibilidades e riscos da IA em questões compreensíveis para a gestão, garantindo que a estratégia de IA esteja alinhada aos objetivos corporativos e à tolerância a riscos da empresa. A inteligência artificial, em sua essência, requer direcionamento estratégico antes mesmo da implementação de controles técnicos.
Com reportagem de Brazil Valley
Source · TIInside
