Em Roseville, um subúrbio de Sacramento, na Califórnia, a polícia local se deparou com um problema persistente. Um sistema de câmeras com inteligência artificial, projetado pela startup Flock Safety, não parava de identificar erroneamente o carro de um mesmo cidadão como roubado. O software confundia o número “9” da placa com um “8”. O caso, que se repetiu ao menos sete vezes, tornou-se uma anedota interna. Mas ele é sintoma de uma falha sistêmica muito mais grave: uma análise do próprio departamento de polícia de Roseville concluiu que, entre 2023 e 2024, 71% dos 1.427 alertas críticos gerados pelo sistema da Flock estavam incorretos.

A revelação, fruto de uma extensa reportagem do Business Insider baseada em registros públicos, lança uma sombra sobre a Flock Safety, uma das mais proeminentes startups no setor de tecnologia para segurança, recentemente avaliada em US$ 8,4 bilhões. O episódio de Roseville expõe o abismo entre a promessa de uma vigilância automatizada e precisa e a realidade operacional, onde falhas de software podem ter consequências devastadoras. A questão que emerge não é apenas técnica, mas fundamentalmente ética: qual o nível de erro aceitável quando a liberdade de um indivíduo está em jogo?

A promessa e a realidade

A Flock Safety vende uma visão de segurança pública otimizada por dados. Com câmeras instaladas em mais de 6.000 comunidades nos Estados Unidos, a empresa afirma processar 20 bilhões de leituras de veículos por mês, com uma precisão superior a 96% na identificação de caracteres de placas em “condições ótimas”. A tecnologia é celebrada por forças policiais como uma ferramenta poderosa para rastrear suspeitos e solucionar crimes. A plataforma permite buscas por características como cor, modelo e até mesmo adesivos em um carro, cruzando informações em uma rede nacional.

No entanto, a experiência de Roseville mostra um quadro radicalmente diferente. A taxa de erro de 71% em alertas de alta prioridade — veículos reportados como roubados ou utilizados em crimes graves — foi descrita por um especialista da New York University como “impressionante” e “muito além do aceitável”. Em sua defesa, a Flock argumenta que a implementação em Roseville é “atípica”, com hardware mais antigo e câmeras posicionadas de forma não recomendada, capturando apenas a traseira dos veículos para proteger a privacidade. A leitura aqui é que, mesmo que a justificativa técnica seja válida, ela revela a fragilidade de um sistema crítico de segurança, cuja eficácia parece depender de condições de laboratório difíceis de replicar no mundo real.

O custo humano do erro algorítmico

Felizmente, em Roseville, nenhum cidadão foi detido indevidamente por causa dos erros da Flock. O departamento exige que seus oficiais verifiquem manualmente a informação de um alerta antes de qualquer abordagem, uma política que funcionou como um firewall humano contra o erro da máquina. Mas em outras jurisdições, a história é outra. O Business Insider já havia reportado casos em que erros de leitura da Flock levaram a paradas policiais com armas em punho, detenções injustas e violência. Em Toledo, Ohio, um motorista foi atacado por um cão policial após a câmera confundir um “7” com um “2” em sua placa. Ele perdeu o emprego, foi despejado e acabou fechando um acordo de US$ 35 mil com a cidade.

Esses incidentes alimentam um crescente debate sobre a regulamentação dessa tecnologia. Nos EUA, estados como Virgínia e Washington já aprovaram leis que obrigam a verificação independente dos alertas antes de uma ação policial, exatamente o protocolo que salvou os cidadãos de Roseville. O caso californiano intensificou os pedidos para que o estado adote medidas similares e realize uma auditoria sobre a confiabilidade dos leitores de placas. A tensão é evidente: de um lado, a promessa de eficiência e resolução de crimes; do outro, o risco de um sistema de justiça automatizado e propenso a falhas que vitimizam inocentes.

O paradoxo final está na decisão de Roseville de, apesar de tudo, continuar utilizando a tecnologia da Flock. O departamento de polícia reconhece que o sistema, mesmo falho, ajudou a solucionar crimes que, de outra forma, poderiam permanecer abertos. A agência afirma que “a tecnologia não é perfeita e requer supervisão humana”, uma responsabilidade que diz levar a sério. O caso serve como um estudo sobre a complexa simbiose entre poder público e tecnologia privada, onde a busca por inovação obriga a uma constante e vigilante negociação com a imperfeição.

Com reportagem de Brazil Valley

Source · Business Insider