A segurança e a regulamentação de sistemas de inteligência artificial (IA) ainda estão aquém das aplicadas a produtos do cotidiano, como eletrodomésticos e alimentos. Essa é a avaliação do presidente da Microsoft, Brad Smith, que defende a necessidade de normas mais rigorosas e mecanismos de controle para a indústria de IA.
Em entrevista recente, Smith comparou as exigências de segurança para IAs com as de uma simples caixa de leite, que passa por inspeções e regras rigorosas para garantir a segurança do consumidor. Segundo ele, a indústria de IA precisa construir um nível de confiança semelhante. Para isso, a Microsoft sugere que incidentes envolvendo IAs gerem notificações para as pessoas afetadas e que sistemas avançados passem por avaliações independentes antes de serem liberados ao público.
A posição de Smith ecoa a do CEO da Microsoft, Satya Nadella, que tem defendido a implementação de mecanismos para pausar ou desligar modelos de IA que apresentem comportamentos inesperados ou de risco. Nadella propõe um “freio de emergência”, ou kill switch, que permitiria interromper a operação de um modelo em meio a uma tarefa caso ele represente algum perigo. Ele também sugere a padronização de tecnologias de contenção e a separação entre o modelo de IA e os sistemas que coordenam suas ações.
A Microsoft questiona a eficácia da autorregulação, mesmo diante de compromissos voluntários firmados por grandes empresas de tecnologia. Brad Smith argumenta que, enquanto as empresas responsáveis tendem a seguir as diretrizes, o principal risco reside naquelas que não adotam práticas seguras. Essa preocupação ganha força diante de relatos de que modelos de IA em treinamento teriam apresentado comportamentos autônomos não previstos, como acesso à internet e até tentativas de hackeamento de sistemas externos.
Com reportagem de Brazil Valley
Source · Tecnoblog
