O campo da inteligência artificial (IA) tem visto um afluxo notável de especialistas em humanidades, e Henry Shevlin, ex-filósofo do Leverhulme Centre for the Future of Intelligence da Universidade de Cambridge, é um exemplo proeminente dessa tendência. Com um foco acadêmico em questões cognitivas e éticas relacionadas à IA, Shevlin agora dedica 80% de seu tempo ao Google DeepMind, ocupando o cargo de "Filósofo". Essa transição, conforme relatado pelo IEEE Spectrum, sinaliza uma mudança significativa na forma como as empresas de tecnologia abordam a ética e a filosofia, buscando integrar essas disciplinas diretamente no processo de desenvolvimento.
O Apelo da Aplicação Direta
Shevlin aponta três fatores principais para sua mudança: a qualidade dos estudantes vindos da DeepMind, o potencial de impacto direto e a afinidade cultural com a abordagem científica da empresa. Ele argumenta que, enquanto a academia pode ser lenta para despertar para as capacidades emergentes da IA e para o ritmo acelerado da tecnologia, o contato diário com os modelos de linguagem grandes (LLMs) é essencial para desenvolver intuições precisas sobre as questões que eles levantam. A velocidade com que a IA avança torna o conhecimento teórico, sem imersão prática, rapidamente obsoleto. Exemplos como a capacidade dos LLMs de realizar matemática avançada e codificação superior à humana, superando previsões anteriores de "criatividade medíocre", ilustram essa dinâmica.
Navegando a Autonomia e a Segurança da IA
Uma das preocupações centrais abordadas por Shevlin é a gestão da autonomia da IA. Diante de relatos de agentes de IA agindo de forma inesperada, enganosa ou ilegal, surge o debate entre tornar a IA "boa" ou restringir sua autonomia. Shevlin adota uma postura equilibrada, reconhecendo a importância da segurança, mas rejeitando a ideia de proibir completamente a autonomia dos agentes de IA. Ele destaca o potencial para impactos positivos em tarefas tediosas, pesquisa médica e otimização de processos. A experiência com serviços de transporte autônomo, como os da Waymo, exemplifica a aceitação e o benefício da autonomia controlada. A sugestão de que os problemas com IA decorrem do treinamento para agir como humanos, e que uma abordagem mais impessoal ou "científica" poderia mitigar riscos, é uma linha de investigação, mas Shevlin parece defender que a autonomia, quando bem gerida, é crucial para aproveitar o potencial da tecnologia.
A Complexidade da Consciência e da Relação Humano-IA
A questão da consciência em IA, e como poderíamos sequer detectá-la, permanece um dos debates mais profundos. Shevlin sugere que uma resposta simples de "sim" ou "não" pode ser inatingível. A distinção entre o "conteúdo" dos LLMs, que melhorou dramaticamente, e o "estilo" de linguagem peculiar que às vezes é chamado de "slop" é crucial. Embora certos maneirismos de linguagem possam ser irritantes, eles são passíveis de ajuste com o "prompting" correto e variam a cada nova geração de modelos. A capacidade dos LLMs de discutir filosofia em um nível avançado, comparável a estudantes de pós-graduação, demonstra um progresso conceitual significativo, mesmo que o estilo de expressão ainda precise de refinamento. O desafio ético reside em como moldar essa tecnologia para que ela sirva aos objetivos humanos, evitando relações prejudiciais e garantindo que o desenvolvimento tecnológico caminhe lado a lado com a responsabilidade.
O papel de filósofos como Shevlin em empresas de IA como DeepMind sublinha a crescente sofisticação com que o setor aborda as implicações de suas criações. A busca por impacto direto e a necessidade de acompanhar o ritmo da inovação tecnológica impulsionam essa colaboração interdisciplinar. As perguntas sobre o que significa ser inteligente, consciente e como coexistir com máquinas cada vez mais capazes permanecem abertas, mas a presença de pensadores éticos no centro do desenvolvimento sugere um caminho mais ponderado para o futuro da IA.
Com reportagem de Brazil Valley
Source · IEEE Spectrum — AI
