Robôs autônomos, seja em corredores de hospitais ou em linhas de produção, dependem de uma série de sensores e sistemas de processamento para garantir a segurança de quem interage com eles. A premissa é que esses sistemas funcionam corretamente, reagindo a obstáculos e comandos. Contudo, o que acontece quando os dados que alimentam essas funções de segurança estão incorretos, seja por falha acidental ou por manipulação deliberada? Essa questão é o cerne de uma análise recente da VicOne LAB R7, que investiga como inputs não confiáveis podem alterar o comportamento de um robô, com potenciais consequências graves para a segurança humana.

A fragilidade dos inputs em robôs

Robôs não apenas medem o ambiente, mas também interpretam as informações recebidas para tomar decisões. Essa capacidade de interpretação, especialmente com o avanço de modelos de visão-linguagem-ação (VLA), torna os sistemas suscetíveis a manipulações. Pesquisas demonstram que um simples patch em uma imagem vista por uma câmera pode comprometer o sucesso de tarefas simuladas, enquanto um ataque adversarial em imagens pode fazer com que modelos ignorem instruções posteriores. Em testes com um robô-cão, o texto em um pôster foi interpretado como uma instrução, alterando seu movimento. De forma semelhante, áudios inaudíveis para humanos, mas manipulados, alteraram o comportamento simulado de um robô de serviço hospitalar.

Ataques deliberados desafiam a segurança

As avaliações de segurança tradicionais frequentemente consideram a combinação de falhas acidentais como eventos de baixa probabilidade. No entanto, ataques cibernéticos deliberados mudam essa perspectiva. Um atacante pode escolher o momento para introduzir um dado falso e repetir o gatilho, explorando vulnerabilidades de forma intencional e cronometrada. Isso levanta preocupações sobre a robustez de sistemas com sensores redundantes, pois uma única manipulação pode afetar múltiplos pontos de verificação simultaneamente. Pesquisas em veículos autônomos, por exemplo, mostraram como um objeto físico criado artificialmente pode enganar sistemas que combinam dados de câmeras e LiDAR, evidenciando a necessidade de testar se uma única manipulação pode comprometer diversas camadas de segurança.

Implicações para a regulamentação e o mercado

As equipes de segurança estabelecem limites para velocidade, distâncias de proteção e áreas operacionais permitidas. A evidência que sustenta esses limites deve, cada vez mais, demonstrar o que acontece quando as informações usadas para impor essas regras são manipuladas. Normas como a chinesa GB/T 45502-2025 e a IEC TS 63074 já abordam a segurança da informação para robôs de serviço e ameaças cibernéticas em sistemas de controle relacionados à segurança. A União Europeia, com seu Regulamento de Máquinas a partir de janeiro de 2027, também incluirá requisitos para proteger sistemas de segurança contra ataques cibernéticos. Esses movimentos regulatórios refletem a crescente necessidade de garantir que a segurança dos robôs não seja apenas uma questão de engenharia, mas também de cibersegurança robusta.

O futuro da interação seguro entre humanos e robôs

O cenário de ameaças cibernéticas adiciona a intenção à equação da segurança robótica. Avaliações de risco que se baseiam apenas em falhas acidentais precisam ser revistas para incorporar ataques que podem ser temporalmente controlados e repetidos. A questão central para equipes de segurança e cibersegurança é determinar se as proteções existentes conseguem detectar o perigo de forma independente ou se elas dependem das mesmas informações potencialmente manipuladas. A integração de robôs em ambientes cada vez mais complexos e na proximidade de humanos exige uma reavaliação contínua dos riscos e o desenvolvimento de métodos de teste que simulem cenários de ataque realistas, garantindo que a evolução tecnológica não comprometa a segurança fundamental.

Com reportagem de Brazil Valley

Source · IEEE Spectrum — AI