Por que os laboratórios de IA estão contratando filósofos?

Os maiores laboratórios de inteligência artificial do mundo passaram a incorporar filósofos e especialistas em ética às suas equipes, em um movimento que tem chamado a atenção à medida que modelos de IA se tornam cada vez mais poderosos. O fenômeno acontece principalmente em organizações como Google DeepMind,  Anthropic e OpenAI e em instituições ligadas à governança da IA.

A lista de profissionais envolve nomes como Amanda Askell, da Anthropic, PhD em filosofia pela New York University e especialista em ética e teoria da decisão; Iason Gabriel, do Google DeepMind, pesquisador de ética da IA e líder da equipe que estuda impactos sociais da inteligência artificial na empresa, e Joe Carlsmith, da Anthropic, filósofo formado em Oxford e especialista em riscos existenciais e alinhamento de IA. Outros nomes conhecidos são Geoff Keeling, Henry Shevlin, ambos da DeepMind; Harvey Lederman, da Anthropic, e Robert Long, que dirige a organização Eleos AI, voltada a estudar questões de bem-estar e possível status moral de sistemas de IA.

A tendência pode sugerir que o setor finalmente reconheceu que questões como responsabilidade, consciência e tomada de decisão extrapolam o campo da engenharia. Mas, para o filósofo Emmanuel Goffi, a realidade é mais complexa.

Em entrevista ao site Atlantico.fr, pertencente ao mesmo grupo de comunicação que controla o Global South World Brasil, Goffi afirma que essas contratações respondem menos a uma evolução natural da tecnologia e mais à crescente pressão exercida por consumidores, reguladores e pela opinião pública. Segundo ele, as empresas perceberam que precisam demonstrar preocupação com ética e responsabilidade para conquistar credibilidade e facilitar a aceitação de seus produtos.

"Os laboratórios sabem que existe uma demanda crescente por garantias em torno da inteligência artificial e procuram responder a ela exibindo competências filosóficas ou éticas", afirma.

Isso não significa, porém, que a ética tenha se tornado parte central das decisões dessas empresas. Para o pesquisador, a presença de filósofos ainda cumpre predominantemente um papel simbólico e de relações públicas.

Embora reconheça que muitos engenheiros e pesquisadores demonstrem interesse genuíno por temas como responsabilidade, alinhamento e valores, Goffi argumenta que essa curiosidade dificilmente se traduz em mudanças concretas sem uma decisão institucional de incorporar essas preocupações ao processo de desenvolvimento dos sistemas.

Na avaliação do filósofo, a indústria vive um movimento ambivalente. Ao mesmo tempo em que reconhece que determinados problemas não podem ser resolvidos apenas pela tecnologia, também utiliza a ética como estratégia para responder às expectativas externas.

Ele chama esse fenômeno de "cosm-ética": o uso do vocabulário da ética para transmitir confiança e responsabilidade sem necessariamente adotar suas exigências de forma efetiva.

Essa lógica ajuda a explicar por que conceitos tradicionalmente filosóficos, como consciência, intenção, identidade e responsabilidade, passaram a ocupar espaço crescente nas discussões sobre inteligência artificial. Para Goffi, essas noções não se tornaram mais claras nem mais consensuais. Tornaram-se apenas mais úteis em um ambiente em que as empresas precisam responder a questionamentos públicos sobre os impactos de seus sistemas.

O próprio conceito de inteligência artificial, observa, continua cercado de ambiguidades. Segundo ele, falar em "a IA", como se existisse uma tecnologia única, mascara a enorme diversidade de sistemas, aplicações e objetivos reunidos sob esse mesmo rótulo.

Apesar da repercussão das recentes contratações, Goffi considera precipitado interpretar esse movimento como uma mudança estrutural na indústria. Em sua visão, ainda se trata de uma iniciativa pontual, impulsionada muito mais por necessidades estratégicas do que por uma transformação na governança das empresas.

Na prática, os filósofos costumam ocupar funções consultivas. Eles ajudam a identificar riscos, formular princípios internos e discutir cenários sensíveis, mas raramente participam das decisões que definem a arquitetura dos modelos, as prioridades comerciais ou o equilíbrio entre desempenho, segurança e competitividade.

Além disso, sua capacidade de contestar decisões também encontra limites. Como trabalham para as próprias empresas, sua autonomia crítica pode ficar comprometida. Goffi lembra o caso da pesquisadora Timnit Gebru, demitida pelo Google em 2020 após divergências sobre pesquisas envolvendo riscos da inteligência artificial.

Para ele, a ética frequentemente acaba reduzida, dentro das empresas, a um mecanismo de gestão de riscos e conformidade regulatória. Embora esse trabalho seja importante, está longe daquilo que considera uma reflexão ética propriamente dita, capaz de questionar os objetivos, os pressupostos e as consequências sociais das tecnologias.

O pesquisador também não acredita que a contratação de filósofos pelos laboratórios esteja provocando uma mudança equivalente entre os reguladores. Em sua avaliação, interesses econômicos continuam predominando na formulação das políticas públicas para inteligência artificial, enquanto as ciências humanas frequentemente são utilizadas apenas para legitimar decisões já tomadas.

Da mesma forma, ele rejeita a ideia de que o Vale do Silício esteja vivendo um verdadeiro renascimento da filosofia. Para Goffi, matemática, ciência da computação e interesses econômicos continuam ocupando o centro das decisões, enquanto as ciências humanas permanecem em posição secundária, valorizadas sobretudo quando ajudam a fortalecer a imagem das empresas ou a reduzir resistências do mercado.

Curiosamente, ele afirma encontrar maior disposição para debates filosóficos sobre inteligência artificial em países asiáticos e da Península Arábica do que entre empresas norte-americanas e europeias. Segundo sua experiência, nesses contextos existe maior abertura para discutir conceitos como consciência, responsabilidade e identidade, em vez de pressupor que seus significados já estejam definidos.