A Meta iniciou os testes de um novo recurso de segurança para o WhatsApp, batizado de Scam Alert. A ferramenta opcional utiliza um modelo de machine learning que opera diretamente no celular do usuário para identificar mensagens com potencial de fraude, especialmente de contatos desconhecidos.

O movimento é uma resposta direta à sofisticação crescente de golpes que usam engenharia social e iscas geradas por inteligência artificial. A tese da Meta é que é possível combater essas ameaças sem quebrar a principal promessa do aplicativo: a criptografia de ponta a ponta. A solução encontrada foi processar tudo localmente, sem que o conteúdo das mensagens precise trafegar para os servidores da empresa.

Privacidade vs. Proteção: a equação on-device

O coração do Scam Alert é seu funcionamento local. O modelo de IA analisa a estrutura da conversa e padrões linguísticos — treinados com base em golpes já reportados por outros usuários — para classificar uma mensagem como suspeita. Como essa análise ocorre no próprio aparelho, o WhatsApp afirma que o conteúdo permanece privado e criptografado, inacessível à Meta ou a terceiros.

Ao detectar um risco, o sistema exibe um alerta visível apenas para o destinatário. A partir daí, o controle está nas mãos do usuário, que pode bloquear ou denunciar o remetente, ignorar o aviso ou marcar a conversa como confiável. Essa última ação, inclusive, permite opcionalmente compartilhar as últimas cinco mensagens com o WhatsApp para aprimorar a precisão do modelo, criando um ciclo de feedback que depende do consentimento explícito.

Transparência como antídoto

Ciente do escrutínio que uma ferramenta que “lê” mensagens atrairia, a Meta aposta na transparência para gerar confiança. A companhia está abrindo o sistema para análise externa por meio de seu programa de recompensas por bugs, convidando pesquisadores de segurança a validarem tanto as proteções de privacidade quanto a eficácia dos alertas.

Mais importante, a Meta planeja publicar os pesos do modelo de machine learning. Isso permitirá que especialistas independentes verifiquem se o classificador está, de fato, focado exclusivamente na detecção de golpes, e não em outros tipos de conteúdo. É uma tentativa de provar que o vigia instalado no aplicativo tem um mandato estritamente limitado.

O sucesso da iniciativa dependerá não apenas da acurácia do algoritmo, mas da capacidade da Meta de convencer sua base bilionária de usuários de que a nova camada de proteção atua em seu benefício, sem se tornar um espião. O equilíbrio entre segurança ativa e privacidade absoluta é o grande desafio para o futuro das plataformas de comunicação.

Com reportagem de Brazil Valley

Source · Mac Magazine