O Corpo de Bombeiros de Seattle tem operado, há mais de dois anos, um sistema de inteligência artificial para triagem e desvio de chamadas médicas do 911 sem qualquer divulgação pública ou escrutínio formal. A ferramenta, desenvolvida pela empresa dinamarquesa Corti, monitora chamadas em tempo real e sugere aos atendentes que redirecionem pacientes para uma central de enfermagem localizada no Texas, em vez de enviar uma ambulância. Segundo reportagem do The Seattle Times, o sistema entrou em operação ativa em dezembro de 2023, sendo creditado pela direção médica do departamento pelo aumento no volume de chamadas desviadas para a linha de enfermagem.

A prática levanta preocupações imediatas sobre a transparência governamental e o uso de algoritmos em serviços críticos de infraestrutura pública. A ausência de uma análise sob a ordenança de vigilância de Seattle — que exige revisão pública de tecnologias com potencial impacto social ou de justiça — coloca o departamento em uma posição de vulnerabilidade institucional. A alegação de que atendentes mantêm a autoridade final sobre as decisões não mitiga o fato de que o processo de triagem foi alterado por um software sem o conhecimento prévio dos contribuintes que dependem do serviço.

O papel da tecnologia em serviços de emergência

A integração de IA em sistemas de resposta a emergências (PSAP, na sigla em inglês) é frequentemente apresentada como uma solução para a sobrecarga de recursos municipais. O objetivo técnico é otimizar a alocação de ambulâncias, reservando o envio de unidades de socorro apenas para casos de risco iminente de vida. No entanto, a implementação em Seattle demonstra a fricção entre a eficiência operacional buscada pelas autoridades e a necessidade de governança democrática sobre ferramentas que moldam decisões de vida ou morte.

Historicamente, sistemas de triagem telefônica são baseados em protocolos médicos rígidos e auditáveis. A introdução de modelos de IA, que operam frequentemente como 'caixas pretas' no que diz respeito aos critérios de recomendação, inverte essa lógica. Quando o processo de decisão é mediado por um algoritmo cujo treinamento e pesos de decisão não são públicos, a capacidade do cidadão de contestar ou compreender o atendimento recebido é severamente diminuída.

Mecanismos de governança e responsabilidade

O caso de Seattle ilustra a dificuldade das administrações locais em acompanhar a velocidade da adoção tecnológica. A defesa do Corpo de Bombeiros, baseada na autonomia final do atendente, ignora o fenômeno conhecido como 'viés de automação', onde humanos tendem a seguir as sugestões de sistemas computacionais para evitar conflitos ou ganhar tempo em situações de alta pressão. Se a IA sugere o redirecionamento, a pressão psicológica sobre o atendente para seguir a recomendação é uma variável inerente ao desenho do sistema.

Além disso, o redirecionamento para uma central fora do estado, como a unidade no Texas, cria uma desconexão geográfica e jurídica. Em casos de erro ou negligência, a responsabilidade legal torna-se complexa. A existência de processos judiciais pendentes, envolvendo óbitos após longas esperas por ambulâncias, acentua a desconfiança pública sobre como essas ferramentas de triagem podem ou não estar contribuindo para desfechos trágicos em cenários de emergência real.

Implicações para o ecossistema público

A disseminação dessa prática em outros condados do estado de Washington, como Snohomish e Kitsap, sugere que o uso de IA em linhas de emergência está se tornando um padrão, apesar da falta de um marco regulatório robusto. Reguladores e legisladores encontram-se diante de um dilema: como incentivar a inovação que pode salvar recursos públicos sem sacrificar o direito fundamental do cidadão ao atendimento presencial quando necessário? A resposta de Seattle, focada em criar uma estrutura de governança apenas após a implementação do sistema, parece ser um modelo de 'pedir desculpas em vez de permissão' que gera instabilidade.

Para o mercado de tecnologia, o caso serve como um alerta sobre a importância da conformidade ética e da transparência. Empresas como a Corti enfrentam o desafio de provar a eficácia de seus modelos em ambientes de alta criticidade. A falha em comunicar o uso da tecnologia ao público não apenas mina a confiança na IA, mas pode resultar em restrições regulatórias severas, que podem vir a proibir o uso de tais ferramentas em serviços públicos essenciais no futuro.

O futuro da triagem automatizada

A questão central que permanece sem resposta é como o sistema de Seattle será auditado daqui para frente. O anúncio da administração municipal de que está desenvolvendo um framework para governança é, na melhor das hipóteses, um movimento de contenção de danos. A eficácia dessa governança dependerá da capacidade de incluir o público na discussão sobre os limites éticos da automação em serviços de emergência.

O que se observa é uma transição onde a eficiência algorítmica colide com a responsabilidade pública. A evolução desses sistemas exigirá níveis de transparência que, até o momento, não foram atingidos pelas autoridades locais. O monitoramento contínuo das métricas de atendimento e a clareza sobre os critérios de triagem serão os indicadores fundamentais para avaliar se a IA está de fato servindo ao bem público ou apenas reduzindo custos operacionais à custa da segurança do cidadão.

A implementação de IA em serviços de emergência em Seattle levanta questionamentos profundos sobre a autonomia, a transparência e a ética na administração pública. Enquanto as autoridades buscam estabelecer um framework de governança a posteriori, a confiança da população permanece em xeque, aguardando definições claras sobre onde termina a assistência tecnológica e onde começa a negligência institucional. Com reportagem de Brazil Valley

Source · GeekWire