O sucesso dos investimentos em inteligência artificial (IA) está intrinsecamente ligado à construção de confiança e à implementação de uma governança robusta. Uma análise recente aponta que a ausência desses pilares pode comprometer significativamente os resultados, mesmo com recursos já alocados em larga escala. A premissa é que a IA, assim como relacionamentos profissionais duradouros, necessita de uma fundação clara de papéis, responsabilidades e autoridade na tomada de decisão para ser eficaz e confiável.
A Base da Confiança: Fonte Única de Verdade e Supervisão Humana
A confiança em sistemas de IA não surge espontaneamente; ela é construída sobre a compreensão e a fé nas informações e decisões que eles geram. Para que a IA entregue resultados significativos, é essencial estabelecer uma única fonte de verdade autoritativa. Este registro centralizado define qual sistema prevalece em caso de conflito de dados, identifica os proprietários de cada ativo e garante a conformidade em tempo real. Paralelamente, a governança exige decisões prévias sobre onde a supervisão humana é indispensável antes que uma ação automatizada seja executada. Em suma, a IA requer dados nos quais se possa confiar e um ser humano no processo decisório.
IA como Recomendadora, Não Responsável Final
A IA demonstra grande capacidade no processamento de informações e na recomendação de ações, desde que acesse dados de um sistema confiável. No entanto, ela não é capaz de estabelecer ou verificar o que existe no ambiente de uma empresa, quem é o responsável por cada componente, suas interconexões, histórico de alterações ou conformidade com auditorias. Essas são questões de registro, e a responsabilidade por manter esse registro e ser responsabilizado por ele recai sobre os humanos. A criação desse registro de propriedade e ciclo de vida dos ativos, juntamente com o histórico de mudanças, é um processo mais prático do que muitas organizações percebem, mas que frequentemente é negligenciado até que surjam problemas, como uma auditoria questionando a aprovação de uma alteração.
Organizando Ações: Rotineiras vs. Críticas
Diante do risco de 'alucinações' da IA, que podem ter impacto operacional, uma abordagem eficaz é categorizar as ações em dois grupos antes da implementação. O primeiro grupo abrange tarefas rotineiras e reversíveis, como reiniciar um serviço ou aplicar um patch padrão, que podem ser automatizadas. O segundo grupo inclui ações que alteram configurações sistêmicas ou lidam com incidentes ao vivo, as quais devem passar por revisão humana. Implementar essas categorias no fluxo de trabalho, em vez de depender do julgamento individual, é crucial. Embora 85% dos profissionais de TI relatem que cada agente e fluxo de trabalho de IA tem um proprietário nomeado, apenas 42% afirmam que essa propriedade é clara na prática, e a conformidade com políticas é baixa.
Governança como Acelerador, Não Freio
Embora a governança seja frequentemente citada como um entrave para a implantação de IA, a questão reside mais na forma como ela é conduzida do que na governança em si. Quando vista como a definição de expectativas e a gestão de responsabilidades em um relacionamento de trabalho, a governança remove incertezas e traz clareza. Regras estabelecidas sobre dados, propriedade e revisão humana agilizam aprovações, pois reduzem o debate em torno das solicitações. O investimento inicial em estabelecer esses limites pode economizar um tempo considerável a longo prazo, evitando a necessidade de aprovar cada item individualmente ao longo de um ano.
O esforço inicial para estabelecer dados confiáveis e processos de governança claros com supervisão humana pode parecer trabalhoso, mas é fundamental para garantir que os investimentos em IA gerem os retornos esperados e que as organizações possam avançar com segurança e eficiência em suas jornadas de transformação digital.
Com reportagem de Brazil Valley
Source · Fast Company
