A Anthropic, desenvolvedora do modelo de inteligência artificial Claude, anunciou ter identificado e bloqueado uma série de usos indevidos de sua tecnologia, incluindo operações de vigilância apoiadas por governos da China, Irã e Mali. As ações, detectadas ao longo deste ano, tinham como alvo dissidentes e minorias, como ativistas pró-democracia de Hong Kong e opositores do regime iraniano no exterior.
O movimento da companhia, uma das mais proeminentes no campo da segurança em IA, joga luz sobre o desafio central da nova era tecnológica: a natureza de uso dual dos grandes modelos de linguagem. Uma ferramenta criada para aumentar a produtividade se torna, nas mãos erradas, um instrumento de controle e repressão, forçando seus criadores a assumirem um papel de polícia global sobre o próprio código.
A linha vermelha da governança
Os casos detalhados pela Anthropic não são teóricos. No Irã, usuários utilizaram o Claude para desenvolver métodos de identificação de indivíduos a partir de suas contas em redes sociais. No Mali, um agente ligado à segurança nacional projetou softwares para coleta de inteligência. Não se trata de uma falha de segurança, mas do uso da capacidade inerente do modelo para fins de vigilância.
Ao intervir, a Anthropic atua menos como uma empresa de software e mais como uma entidade de governança geopolítica, traçando uma linha vermelha para o uso de sua criação. A decisão expõe a posição em que as big techs de IA se encontram: detentoras de uma tecnologia com potencial de impacto estatal, elas se tornam árbitros de seu uso ético, um poder significativo exercido fora de qualquer mandato democrático.
Do código ao contágio
Além da vigilância, a empresa bloqueou outras atividades preocupantes. Pesquisas envolvendo o vírus chikungunya, a gripe aviária e toxinas foram interrompidas, embora a Anthropic tenha sido cautelosa ao afirmar que a intenção dos pesquisadores não era clara. O episódio revela a dificuldade em distinguir pesquisa legítima de desenvolvimento de ameaças biológicas quando a ferramenta é um modelo de IA acessível.
Simultaneamente, a companhia identificou desenvolvedores chineses usando o Claude para treinar seus próprios modelos de IA, uma prática conhecida como "destilação". O caso ilustra outra faceta do problema: a contenção do uso indevido não é apenas sobre ética, mas também sobre competição estratégica e propriedade intelectual na corrida global pela supremacia em inteligência artificial.
As ações da Anthropic são um passo necessário na mitigação de riscos, mas também um atestado da vulnerabilidade do ecossistema. Conforme os modelos se tornam mais poderosos e difundidos, a fiscalização se torna um jogo de gato e rato cada vez mais complexo. A questão fundamental que emerge não é se a IA pode ser mal utilizada, mas quem, de fato, terá o poder e a capacidade de impedir que isso aconteça em escala.
Com reportagem de Brazil Valley
Source · Olhar Digital
