A discussão sobre a regulamentação da inteligência artificial (IA) ganhou um novo e crucial capítulo com a defesa de Giorgos Tsetis, investidor em IA e ex-líder de uma empresa de suplementos alimentares, por responsabilidade legal pessoal para executivos do setor. Tsetis argumenta que, diferentemente de outras indústrias onde os líderes respondem pessoalmente por falhas de segurança, no campo da IA essa camada de accountability é inexistente. Essa ausência, segundo ele, permite que líderes tomem decisões que podem gerar bilhões em lucro, enquanto pessoalmente arriscam pouco ou nada em caso de erros com potencial devastador.
A tese central de Tsetis é que a responsabilidade corporativa, muitas vezes traduzida em multas financeiras que se tornam meros custos operacionais, não é suficiente para garantir a segurança de tecnologias tão potentes e ubíquas quanto a IA. Ele compara a situação com a sua própria experiência liderando a Nutrafol, onde a responsabilidade legal pessoal o forçava a pensar profundamente sobre a segurança dos produtos. "Um checklist de segurança diz o que testar; a exposição pessoal faz você se preocupar com o que não está na lista", afirma, ressaltando como essa pressão incentiva a identificação proativa de riscos e a implementação de salvaguardas.
O paralelo traçado com o setor de redes sociais, onde os efeitos negativos na saúde mental e na sociedade são amplamente documentados, serve como um alerta. A IA, por sua natureza intrusiva e potencial de impacto em infraestruturas críticas como redes elétricas e sistemas de saúde, eleva os riscos a um patamar sem precedentes. Tsetis enfatiza que a IA está se tornando parte do cotidiano de todos, tornando a coletividade os "clientes" involuntários de suas aplicações. A possibilidade de a IA um dia escapar ao controle humano, um temor já expresso pelos próprios criadores, exige um nível de cautela e accountability proporcionalmente maior.
Para Tsetis, a introdução da responsabilidade legal pessoal não visa punir cada falha, mas sim incidir sobre decisões conscientes de líderes que, cientes dos riscos graves, optam por lançar sistemas de IA, negligenciam equipes de segurança ou ocultam problemas de reguladores e do público. A forma dessa responsabilização — seja civil ou criminal — e os limites para sua aplicação são questões a serem debatidas por legisladores, juristas e tecnólogos. Contudo, a premissa é clara: os executivos no topo devem ter seus nomes atrelados às consequências de suas decisões, com riscos pessoais reais em jogo.
O movimento em direção a acordos voluntários e frameworks de segurança por parte das grandes empresas de IA, embora bem-vindos, são considerados insuficientes por Tsetis. A história mostra que a inovação não é necessariamente sufocada pela responsabilidade, mas sim moldada por ela, construindo a confiança necessária para o sucesso a longo prazo. A aplicação de um padrão de responsabilidade pessoal, já consolidado para produtos que afetam o corpo humano, é vista como um passo essencial para garantir que a corrida pela supremacia em IA não ocorra às custas da segurança coletiva e que o potencial transformador da tecnologia seja de fato benéfico para todos.
Com reportagem de Brazil Valley
Source · Fortune
