A Autoridade Monetária de Singapura (MAS), que acumula as funções de banco central e regulador do setor financeiro, anunciou uma nova diretriz que exige que todas as instituições financeiras (IFs) locais realizem uma revisão independente de seus casos de uso de Inteligência Artificial (IA) antes de colocá-los em produção. As novas diretrizes sobre Gerenciamento de Riscos de IA para Instituições Financeiras sinalizam a crescente preocupação com os riscos associados à adoção dessa tecnologia no setor.

Riscos Amplificados pela IA

A MAS reconhece que a IA pode otimizar operações, mas alerta que sua complexidade e natureza probabilística podem gerar incertezas e comportamentos inesperados ou enviesados, mais difíceis de identificar do que métodos tradicionais. A complexidade da IA generativa, em particular, é vista como um fator que amplifica esses riscos. Fontes de instabilidade incluem ruídos nos dados de treinamento, representatividade inadequada dos dados ou cenários não previstos nos modelos. A preocupação se estende à IA agentiva, que poderia exacerbar ainda mais essas vulnerabilidades.

Revisão Independente e Responsabilidade Contínua

As novas diretrizes exigem que as IFs expandam seus frameworks de gerenciamento de risco para abranger a IA, com o conselho de administração e a alta gerência sendo os responsáveis por essa implementação. Um ponto crucial é a obrigatoriedade de uma revisão externa e independente para cada caso de uso de IA, garantindo que os controles de avaliação e teste sejam rigorosamente seguidos. Além disso, revisões de tecnologia e cibersegurança são mandatórias para assegurar uma implantação segura e controlada. A MAS também enfatiza a necessidade de monitoramento contínuo, tanto dos sistemas internos quanto dos serviços de IA de terceiros, para garantir que a IA opere conforme o esperado e mantenha sua adequação ao longo do tempo, combatendo a obsolescência do modelo e a degradação de desempenho.

Prestação de Contas e Contingência

A reguladora de Singapura é clara: falhas de fornecedores terceirizados de IA não serão aceitas como desculpa para problemas. As IFs permanecem integralmente responsáveis pela IA utilizada em seus serviços, mesmo que desenvolvida ou fornecida por terceiros. As instituições devem obter garantias suficientes dos provedores, avaliar a adequação do serviço de IA para o uso pretendido e implementar controles compensatórios onde houver lacunas. Se os riscos não puderem ser mitigados dentro do apetite de risco da IF, a suspensão ou substituição do serviço de IA deve ser considerada. As IFs também deverão manter um inventário atualizado de toda a IA utilizada e, em casos de IA não revelada por terceiros, desenvolver estratégias para gerenciar o risco. Para aplicações de alto risco, planos de contingência e opções de fallback, como sistemas alternativos ou processos manuais, são exigidos para garantir a continuidade dos negócios em caso de falha da IA.

Um Novo Padrão para IA Financeira

As diretrizes entram em vigor em 7 de outubro de 2027, dando às instituições financeiras um prazo considerável para se adaptarem. A abordagem de Singapura, com sua ênfase na revisão independente e na responsabilidade contínua, estabelece um precedente significativo para a regulamentação global de IA no setor financeiro, buscando equilibrar inovação com segurança e estabilidade. A questão que permanece é como outras jurisdições responderão a este movimento regulatório, e se seguirão um caminho semelhante para garantir o uso seguro e ético da IA no mercado financeiro.

Com reportagem de Brazil Valley

Source · The Register