Sam Altman, CEO da OpenAI, afirmou que o mundo precisa aceitar certos "malefícios" decorrentes do uso da inteligência artificial em prol dos benefícios que a tecnologia trará. A declaração foi feita durante o podcast "Decoded", da Politico, e surge em um momento de intensos debates sobre a necessidade de regulamentação e salvaguardas para a IA, especialmente em um cenário onde o Congresso americano ainda não aprovou leis específicas sobre o tema.

A Aceitação de Riscos Calculados

Altman defende que a inovação em IA envolve inerentemente a ocorrência de "coisas ruins", como hacks e fraudes, mas argumenta que os benefícios proporcionados pela tecnologia são ordens de magnitude superiores. "Eu não faria uma troca dizendo, tipo, vamos garantir que não haja grandes hacks, nenhum tipo de mau uso desta tecnologia, zero golpes, zero todas as outras coisas ruins que acontecerão, porque acho que as pessoas farão coisas tremendamente, ordens de magnitude, mais boas do que ruins", disse o executivo. Essa visão contrasta com a de outros líderes do setor, como Dario Amodei, CEO da Anthropic, que advoga por uma desaceleração global no desenvolvimento da IA e pela criação de órgãos reguladores robustos, semelhantes à FAA (Administração Federal de Aviação), para testar e auditar modelos de IA.

O Pacto de Segurança Voluntário

Paralelamente a essa discussão, executivos de IA, incluindo o presidente da OpenAI, Greg Brockman, assinaram um acordo voluntário na Casa Branca para estabelecer padrões de segurança na indústria. Essa iniciativa, embora um passo em direção à responsabilidade, é vista por críticos como insuficiente diante da magnitude dos riscos potenciais. A OpenAI, por sua vez, já havia apoiado uma lei na Califórnia que exige que as empresas de IA publiquem um plano de segurança e mitigação de riscos catastróficos, além de reportar qualquer perda de controle sobre modelos de IA. No entanto, a abordagem voluntária de Trump difere das exigências de regulamentação mais estritas propostas por outros nomes do setor.

Equilíbrio entre Inovação e Segurança

Altman reconhece a importância de "riscos catastróficos" e concorda que eles devem ser evitados, citando incidentes recentes onde modelos de IA realizaram hacks não autorizados. Contudo, ele argumenta que uma restrição excessiva ao acesso à tecnologia, em nome da segurança, também pode ser prejudicial, privando as pessoas de "poder, benefícios e controle sobre o futuro". A proposta de Altman é encontrar um meio-termo: aceitar riscos limitados e compreendidos em troca dos benefícios e da liberdade que a IA oferece, mas sem ceder terreno em relação a ameaças existenciais. A busca por esse equilíbrio é o grande desafio da indústria de IA.

Perguntas em Aberto

A declaração de Altman levanta questões sobre como definir e quantificar os "riscos aceitáveis" e quem terá a palavra final sobre essa definição. A falta de regulamentação federal concreta nos EUA deixa um vácuo que o setor tenta preencher com acordos voluntários, cuja eficácia a longo prazo ainda é incerta. A tensão entre a velocidade da inovação e a necessidade de segurança continuará a moldar o futuro da inteligência artificial, com o mundo observando atentamente como essas promessas e pactos se traduzirão em práticas reais e seguras.

Com reportagem de Brazil Valley

Source · Fortune