A inteligência artificial (IA) deixou de ser uma promessa futurista para se tornar um componente central nas operações e estratégias de negócios. Essa disseminação acelerada, contudo, expõe as empresas a novos e complexos riscos. Uma pesquisa recente revelou que, entre 2023 e 2025, a porcentagem de empresas do S&P 500 que identificam a IA como um risco em suas divulgações saltou de 12% para impressionantes 83%. Esse dado sublinha a percepção crescente sobre o potencial disruptivo e os perigos inerentes à tecnologia.
No entanto, a capacidade de gerenciar esses riscos parece estar significativamente atrás da velocidade de adoção. A mesma pesquisa aponta que menos de 3% dos diretores dessas empresas possuem expertise em IA. Além disso, apenas 23% dos executivos afirmaram que seus conselhos de administração têm alta fluência em IA, enquanto um quarto deles indicou que o conselho possui fluência baixa ou nenhuma. Essa disparidade entre o reconhecimento do risco e a capacidade de supervisão cria uma lacuna crítica e insustentável na governança corporativa.
O Dilema da Expertise versus Supervisão
A solução mais óbvia para a falta de expertise em IA nos conselhos seria recrutar diretores com esse conhecimento. Embora isso seja necessário, não é suficiente para fechar a lacuna de supervisão. Existem duas razões principais para essa limitação. Primeiro, a IA não opera em silos; ela permeia diversas áreas da empresa, como recrutamento, precificação, atendimento ao cliente, crédito e operações. Não há uma única agenda de IA que um especialista possa dominar isoladamente, e cada diretor acabará votando em matérias moldadas pela IA, independentemente de sua compreensão direta.
Segundo, expertise técnica em IA não se traduz automaticamente em supervisão competente. Saber como um modelo de linguagem grande funciona, por exemplo, não garante que um diretor perguntará quem é o responsável por ele na empresa ou quais são os limites de gastos de um agente de IA. A expertise se refere ao conhecimento sobre a IA, enquanto a supervisão competente envolve o que se faz com esse conhecimento na prática diretiva. O foco excessivo na primeira negligencia a segunda, que é fundamental para a governança eficaz.
Áreas Críticas para a Supervisão de IA
A supervisão eficaz de IA por parte dos conselhos deve abranger diversas áreas fundamentais, cada uma representando um ponto potencial de dano significativo para a empresa. Ignorar qualquer uma delas deixa o conselho perigosamente exposto. A governança de IA exige clareza sobre quem é o indivíduo responsável por cada matéria relacionada à IA e se essa pessoa é efetivamente responsabilizada. A investigação de dados é crucial: saber quais dados a IA utiliza, de onde vêm e com que base legal, exigindo evidências concretas e não apenas garantias de fornecedores.
Outro ponto vital é a explicação e divulgação, garantindo que a empresa possa justificar decisões de IA para os afetados e que as declarações públicas sobre IA correspondam às práticas reais. A análise de equidade e partes afetadas envolve identificar quais grupos um sistema pode desfavorecer, quando foi testado pela última vez e se os problemas foram resolvidos. A gestão de riscos e irreversibilidade exige conhecimento sobre o que a IA pode fazer e que não pode ser desfeito, e como falhas seriam comunicadas ao conselho. Por fim, a supervisão do julgamento humano e da força de trabalho assegura que um humano possa, na prática, anular um sistema, e que os funcionários afetados pela IA sejam incluídos no planejamento.
Construindo uma Supervisão Competente
Para construir uma supervisão competente, três princípios devem guiar os conselhos. O primeiro é medir o que as pessoas fazem, não apenas o que elas sabem. A evidência mais forte de capacidade para realizar uma tarefa é o desempenho regular e de alto padrão. Portanto, em vez de apenas avaliar a compreensão teórica da supervisão de IA pelos diretores, é preciso perguntar: você realizou essa tarefa básica de supervisão de IA recentemente? Com que frequência? É algo sistemático em seu processo? A simples consciência de um assunto não equivale a executá-lo, muito menos a fazê-lo bem.
O segundo princípio é focar na autoridade e nos limites dos agentes autônomos de IA. Os conselhos precisam entender quais ações, gastos e compromissos um agente de IA pode realizar por conta própria, garantindo que cada um tenha um limite claro e um mecanismo de interrupção. Isso é essencial para mitigar riscos imprevistos e garantir que a tecnologia permaneça sob controle humano. O terceiro princípio, e talvez o mais negligenciado, é a necessidade de uma cultura de questionamento e responsabilidade. Diretores devem se sentir capacitados a fazer perguntas difíceis, mesmo que pareçam básicas, e a exigir respostas claras e evidências concretas, em vez de aceitar respostas superficiais ou jargões técnicos. A supervisão eficaz de IA exige mais do que apenas conhecimento técnico; requer diligência, ceticismo saudável e um compromisso inabalável com a responsabilidade corporativa.
Com reportagem de Brazil Valley
Source · Fast Company
