O lançamento de "The Social Reckoning", filme que narra a história da whistleblower Frances Haugen, traz à tona as controvérsias do Facebook (agora Meta) e levanta novas questões sobre os rumos da companhia sob Mark Zuckerberg. Haugen, que em 2021 entregou dezenas de milhares de documentos internos, criticou a atual estratégia da Meta em inteligência artificial, alertando que a empresa "está brincando com fogo". A declaração ecoa as preocupações que ela levantou anteriormente sobre a gestão de riscos e o impacto social das plataformas da empresa.

Haugen, interpretada no filme por Mikey Madison, atuava como gerente de produto na equipe de integridade cívica do Facebook. Seus documentos, que revelaram como a empresa sabia dos efeitos negativos do Instagram na saúde mental de adolescentes, formaram a base de uma série de reportagens investigativas. Agora, ela expressa ceticismo quanto a uma mudança cultural genuína na Meta desde que deixou a empresa, afirmando não ter visto "uma mudança de cultura que mostre que eles... viraram uma nova página".

A aposta de Zuckerberg em IA

A ex-whistleblower vê o foco atual de Mark Zuckerberg em inteligência artificial como uma busca por um legado positivo, mas ressalta que a Meta ainda está atrás de laboratórios de ponta como Anthropic e OpenAI. Haugen critica a postura de Zuckerberg contra regulamentações, sugerindo que ele busca "não ter restrições até que ele esteja pelo menos na mesma mesa dos grandes jogadores". Essa resistência à regulação contrasta com a necessidade, segundo ela, de auditorias independentes e obrigatórias para mitigar os riscos da IA, um modelo que ela compara à fiscalização de bancos.

Haugen não defende uma pausa no desenvolvimento da IA, argumentando que "desacelerar apenas significa que quem não quer desacelerar vence". Em vez disso, ela apoia a ideia de auditores independentes, como proposto por Dario Amodei, para supervisionar as práticas de segurança das empresas de IA. Acredita que, embora as empresas de IA publiquem mais pesquisas do que o Facebook jamais fez, a transparência sobre o que realmente acontece internamente ainda é questionável.

Moderação de conteúdo e os limites da IA

A moderação de conteúdo nocivo foi um ponto central nas revelações de Haugen em 2021. Documentos indicavam que o Facebook agia em apenas 3% a 5% dos casos de discurso de ódio. Nos últimos anos, a Meta tem dependido cada vez mais de modelos de IA para a moderação, reduzindo a intervenção humana e a terceirização. Haugen prevê que, mesmo com modelos avançados, a IA poderá capturar apenas entre 10% a 20% do conteúdo prejudicial, devido à complexidade e nuances da linguagem.

"A verdadeira solução é projetar os sistemas desde o início para serem mais seguros, não apenas tentar limpá-los no final", defende Haugen. Essa visão sublinha a necessidade de uma abordagem proativa na construção de plataformas digitais, em vez de depender apenas de mecanismos de correção pós-lançamento. A experiência passada com a moderação de conteúdo no Facebook serve como um alerta sobre os desafios inerentes à escala e à complexidade das interações online.

Implicações para o ecossistema de tecnologia

A postura da Meta em relação à IA e à regulação pode ter implicações significativas para todo o ecossistema de tecnologia. Ao resistir a controles externos e focar em alcançar os líderes do setor, Zuckerberg pode estar criando um precedente perigoso, onde a corrida por inovação supera a responsabilidade social. A comparação com os riscos já expostos no Facebook sugere que a busca por crescimento e legado pode cegar empresas a potenciais danos, especialmente em tecnologias emergentes com poder transformador.

O apelo de Haugen por auditorias independentes obrigatórias ressoa com preocupações crescentes sobre a concentração de poder nas mãos de poucas empresas de tecnologia e o impacto de suas decisões na sociedade. A falta de um quadro regulatório robusto para a IA deixa um vácuo onde as empresas podem operar com pouca supervisão, aumentando o risco de consequências não intencionais ou até mesmo prejudiciais.

Perguntas em aberto sobre o futuro da IA

O debate sobre o desenvolvimento e a regulação da IA está longe de ser resolvido. A visão de Haugen sobre a necessidade de auditorias obrigatórias é um passo importante, mas a implementação prática e a fiscalização de tais medidas permanecem incertas. Resta saber se empresas como a Meta adotarão voluntariamente práticas mais transparentes ou se a pressão regulatória será o único motor para mudanças significativas.

A trajetória da Meta sob a liderança de Zuckerberg, marcada por controvérsias passadas, levanta a questão de se a empresa é capaz de aprender com seus erros e priorizar a segurança e o bem-estar dos usuários em sua busca por inovação. A forma como a indústria de IA lidará com essas tensões definirá não apenas o futuro da tecnologia, mas também o impacto que ela terá na sociedade global.

A fala de Frances Haugen, amplificada pela atenção midiática em torno do filme "The Social Reckoning", serve como um lembrete contundente de que a inovação tecnológica deve caminhar lado a lado com a responsabilidade. A lição do Facebook, e agora a advertência sobre a IA da Meta, sugere que a busca por liderança e legado pode ser um caminho perigoso quando desacompanhado de um compromisso firme com a segurança e a ética. A indústria e os reguladores enfrentam o desafio de garantir que os avanços em inteligência artificial beneficiem a sociedade sem replicar ou exacerbar os problemas já conhecidos do mundo digital. Com reportagem de Brazil Valley

Source · Fortune