Um pesquisador de inteligência artificial (IA) que deixou a OpenAI, criadora do ChatGPT, para trabalhar na Anthropic decidiu abandonar o setor. Ele acusa as duas empresas americanas de "jogar com as nossas vidas" na corrida para desenvolver modelos de IA capazes de se autoaperfeiçoar.
Jacob Coxon, de 27 anos, passou os últimos três anos trabalhando no pré-treinamento de modelos de IA, primeiro na OpenAI e, neste ano, na rival Anthropic, empresa que ele considerava mais cautelosa. O pré-treinamento é a etapa em que os modelos de IA absorvem grandes volumes de dados.
O britânico disse ao The Wall Street Journal que, nos "cenários mais agressivos", a situação poderia sair do controle já no fim do próximo ano. Ele alertou que um dos principais riscos é a IA passar a se desenvolver por conta própria, tornando-se mais difícil de controlar.
Evan Hubinger, executivo da área de segurança da Anthropic, apoiou a declaração de Coxon na rede social X. "Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos", disse. Segundo ele, a chance de isso acontecer na próxima década é superior a 10%.
Hubinger afirmou que a Anthropic está "fazendo o possível", mas ainda não tem um plano capaz de garantir que um sistema de IA que supere as capacidades humanas obedeça a seus criadores. Ele ressaltou, porém, que o risco de isso acontecer com os modelos atuais é baixo.
A saída de Coxon ocorre enquanto a Anthropic se prepara para estrear no mercado de ações, após um período marcado por invasões não autorizadas realizadas por ferramentas de IA durante testes.
Líderes do setor de IA afirmam que o chamado "autoaperfeiçoamento recursivo" — estágio em que sistemas de IA poderiam projetar e treinar a próxima geração com pouca intervenção humana — está se aproximando.
Coxon considera genuínos os esforços da Anthropic, mas acredita que nenhuma empresa seja capaz de desenvolver, de forma responsável, uma IA que supere a inteligência humana sem intervenção governamental ou uma desaceleração coordenada.
Em fevereiro, a Anthropic retirou de sua carta de princípios de segurança o compromisso de interromper o desenvolvimento de seus modelos caso não conseguisse controlar os riscos associados à tecnologia. A empresa argumentou que, se suspendesse unilateralmente suas atividades, concorrentes menos cautelosos dominariam o setor, tornando-o menos seguro.
No fim de julho, mais de mil profissionais do setor de tecnologia — incluindo o CEO da Anthropic, Dario Amodei — pediram a Washington apoio a uma desaceleração coordenada no desenvolvimento dos sistemas de IA mais avançados.
