O pesquisador britânico Jacob Coxon, de 27 anos, anunciou nesta terça-feira (8) sua saída da Anthropic e afirmou que também está deixando a indústria de inteligência artificial. Especialista em pré-treinamento de grandes modelos, Coxon passou os últimos três anos trabalhando primeiro na OpenAI e, mais recentemente, na Anthropic.

Em uma série de publicações no X, ele fez um alerta de forte impacto sobre os rumos da tecnologia. Segundo Coxon, OpenAI e Anthropic não estariam agindo de maneira suficientemente responsável diante da possibilidade de surgirem sistemas de inteligência artificial capazes de melhorar a si próprios.

“As pessoas que estão construindo IA acreditam sinceramente que ela pode matar todos nós até o fim da década”, escreveu. Em outra declaração, acusou as empresas de correrem em direção a uma “superinteligência capaz de se aprimorar sozinha” e de estarem “apostando com nossas vidas”.

QUEM É JACOB COXON

Coxon integrou a equipe técnica da OpenAI a partir de 2023 e trabalhou em pesquisas de pré-treinamento, incluindo projetos ligados ao GPT-4o. Em julho deste ano, deixou a empresa e passou para a Anthropic, criadora do Claude, laboratório conhecido por colocar segurança e alinhamento de IA no centro de seu discurso público.

O pré-treinamento é uma das etapas fundamentais do desenvolvimento dos grandes modelos de linguagem. É nessa fase que os sistemas processam enormes volumes de dados para aprender padrões e construir grande parte das capacidades que posteriormente aparecem nos produtos utilizados pelo público.

Coxon afirmou ter deixado a OpenAI por considerar a Anthropic mais cautelosa. Meses depois, porém, concluiu que nenhuma das duas estaria atuando de maneira responsável diante dos riscos que ele acredita acompanhar a corrida pela superinteligência.

O QUE ELE TEME

Segundo o pesquisador, futuros sistemas poderiam ultrapassar seres humanos em grande parte das atividades intelectuais e desenvolver capacidades como invadir sistemas digitais, acelerar descobertas científicas e adquirir recursos ou influência no mundo real.

Para Coxon, o problema estaria principalmente na combinação entre capacidade crescente, autonomia e possibilidade de autoaperfeiçoamento. Ele sustenta que a competição entre laboratórios cria um incentivo para continuar avançando mesmo quando os próprios pesquisadores possuem dúvidas sobre como manter sistemas muito mais poderosos sob controle.

Ele também fez uma distinção entre suas antigas empregadoras. Segundo Coxon, parte da OpenAI ainda não teria assimilado plenamente o tamanho do risco, enquanto a Anthropic compreenderia melhor o problema, mas seguiria desenvolvendo modelos rapidamente por temer que concorrentes avancem primeiro. Essa é a avaliação pessoal do pesquisador.

PESQUISADOR DA PRÓPRIA ANTHROPIC ENDOSSA PARTE DO ALERTA

A repercussão aumentou depois que Evan Hubinger, pesquisador da Anthropic responsável por trabalhos de alinhamento e segurança, respondeu publicamente a Coxon.

Hubinger afirmou estimar em mais de 10% a possibilidade de a inteligência artificial causar a extinção humana dentro da próxima década. Ele disse ainda que, embora considere que a Anthropic esteja tentando reduzir os riscos, a empresa ainda não possui uma solução comprovada para o chamado problema de alinhamento de uma eventual superinteligência.

Em IA, “alinhamento” é o desafio de garantir que sistemas extremamente capazes continuem seguindo objetivos compatíveis com os interesses e valores humanos, inclusive em situações que seus criadores não anteciparam.

ALERTA NÃO É PREVISÃO COMPROVADA

Apesar da repercussão, é importante diferenciar alerta de previsão científica estabelecida.

Não existe consenso de que uma inteligência artificial superinteligente surgirá nesta década, muito menos de que necessariamente causaria a extinção humana. Especialistas divergem amplamente sobre a velocidade do desenvolvimento tecnológico e sobre a probabilidade de cenários extremos.

Enquanto pesquisadores como Coxon, Hubinger e o professor Stuart Russell defendem atenção crescente aos chamados riscos existenciais, outros especialistas consideram essas previsões excessivamente especulativas. O debate, porém, vem ganhando espaço entre pesquisadores, governos e empresas de tecnologia.

A saída de Coxon adiciona mais pressão ao debate sobre uma questão que acompanha a rápida evolução da inteligência artificial: até onde as empresas devem avançar antes de haver garantias de que sistemas cada vez mais autônomos possam permanecer sob controle humano?