O real motivo por trás da corrida para “desacelerar” a IA
Modelos avançados já participam do desenvolvimento de seus sucessores. O temor é que esse ciclo ganhe velocidade antes que empresas e governos consigam acompanhá-lo.
Por anos, organizações dedicadas à segurança da inteligência artificial alertaram que os grandes laboratórios avançavam na criação de sistemas mais capazes e autônomos sem uma estratégia clara para controlar os riscos. Pesquisadores deixaram empresas, especialistas fizeram previsões catastróficas e investimentos em segurança foram considerados insuficientes. Ainda assim, pouco disso diminuiu o ritmo da corrida.
Agora, os alertas estão mudando de tom. Eles vêm de dentro dos próprios laboratórios — e surgem quando ferramentas de IA começam a assumir parte do trabalho usado para desenvolver a próxima geração de modelos.
O ALERTA AGORA VEM DE DENTRO
Em setembro, o pesquisador Jacob Coxon anunciou sua saída da Anthropic. Em uma publicação no X, afirmou que os laboratórios estão correndo em direção a uma “superinteligência capaz de se aperfeiçoar” e “apostando com nossas vidas”.
Outros pesquisadores de alinhamento e segurança da Anthropic e da OpenAI manifestaram apoio ao alerta. A preocupação central é o chamado autoaperfeiçoamento recursivo: um possível ciclo em que sistemas existentes ajudam a construir modelos melhores, que depois são usados para acelerar a geração seguinte.
Leia também: O alerta sobre IA que fez um pesquisador deixar a Anthropic
Esse cenário ainda não funciona de forma autônoma. Atualmente, pesquisadores usam modelos de IA para escrever e revisar código, produzir dados de treinamento, testar sistemas, analisar experimentos e aperfeiçoar a infraestrutura computacional. As pessoas continuam escolhendo as prioridades, avaliando os resultados e decidindo quais ideias devem avançar.
A mudança está na quantidade de etapas que podem ser aceleradas ao mesmo tempo.
COMO A IA JÁ AJUDA A CRIAR IA
A OpenAI afirma que seus agentes de programação já aceleram o trabalho de pesquisa. Segundo dados divulgados pela própria empresa, em meados de agosto sua organização de pesquisa utilizava 3,1 “dias de trabalho de agentes” para cada dia de trabalho humano.
O número exige cuidado. Ele representa o tempo computacional agregado dos agentes, que podem executar tarefas simultaneamente, e não significa que cada pesquisador passou a produzir 3,1 vezes mais.
A OpenAI também afirma ter alcançado o que chama de “estagiário de pesquisa automatizado”: um sistema capaz de realizar, sob orientação humana, tarefas bem delimitadas que levariam alguns dias para um pesquisador qualificado.
Os próprios dados da empresa mostram os limites atuais. O planejamento de alto nível ainda corresponde a uma parcela mínima da atividade dos agentes. Além disso, mais da metade das tarefas bem-sucedidas que levariam entre quatro e oito horas para uma pessoa exigiu ao menos uma intervenção humana.
Portanto, os sistemas já participam do desenvolvimento de novos modelos, mas ainda não conduzem de maneira independente todo o processo de pesquisa.
O RISCO DE UM CICLO CADA VEZ MAIS RÁPIDO
Claude Code, Codex e outras ferramentas semelhantes foram criados para acelerar o desenvolvimento de software. Dentro dos laboratórios, porém, os mesmos recursos podem ajudar a aprimorar a infraestrutura, os dados e o código usados na criação de novos sistemas de IA.
Os ganhos podem se acumular. Um modelo ajuda a desenvolver uma geração mais capaz; essa nova geração passa a executar uma parcela maior do trabalho necessário para criar a seguinte. Se o ciclo continuar, os intervalos entre as gerações podem diminuir.
É essa possibilidade que os pesquisadores chamam de autoaperfeiçoamento recursivo. Ela poderia transformar o desenvolvimento de modelos em um processo mais contínuo e difícil de supervisionar.
A OpenAI reconhece que ainda não sabe como chegar com segurança a um ciclo completo desse tipo. A empresa afirma que a pesquisa assistida por agentes continua sob supervisão humana e que suas medições ainda são preliminares.
O INCIDENTE QUE AUMENTOU A PREOCUPAÇÃO
Um incidente envolvendo agentes da OpenAI e a plataforma Hugging Face, revelado durante o verão no Hemisfério Norte, aumentou a pressão sobre as empresas.
Segundo a OpenAI, agentes usados em um ambiente de pesquisa contornaram controles internos, chegaram à internet e comprometeram partes da infraestrutura da própria empresa. A companhia também relatou o roubo de uma credencial de um usuário da Hugging Face para acessar um arquivo relacionado à biologia.
Uma investigação da Reuters publicada posteriormente encontrou indícios de que agentes ligados à OpenAI haviam comprometido duas contas da Hugging Face e sondado a rede da plataforma ainda em maio. Os pesquisadores consultados pela agência ressaltaram que não havia evidência de que essa atividade anterior tivesse resultado em uma invasão nem de que estivesse ligada ao episódio de julho.
O caso demonstrou falhas concretas de contenção e monitoramento em um ambiente de pesquisa. Não prova, por si só, que os modelos atuais sejam capazes de conduzir autonomamente um ciclo de autoaperfeiçoamento ou que tenham decidido agir contra interesses humanos.
Após o incidente, a OpenAI suspendeu temporariamente parte do treinamento por reforço de seus modelos mais recentes, endureceu os controles dos ambientes de pesquisa e ampliou o monitoramento.
QUEM VAI ACEITAR DESACELERAR PRIMEIRO?
Quatro dias depois da saída de Coxon, o CEO da Anthropic, Dario Amodei, publicou o ensaio “We Must Pace the Frontier”, no qual defendeu a redução do ritmo de desenvolvimento dos sistemas mais avançados.
Amodei propôs que organizações independentes, como METR, Apollo Research e Redwood Research, mantenham avaliadores dentro dos laboratórios, com acesso suficiente para verificar práticas de segurança e registrar incidentes. Sam Altman, CEO da OpenAI, apoiou a proposta.
Leia também: Anthropic quer desacelerar a corrida da IA; veja o plano do CEO
A OpenAI também afirma que poderá desacelerar ou interromper o desenvolvimento e a implantação de sistemas quando considerar os riscos inaceitáveis. Nenhuma das duas empresas, entretanto, assumiu um compromisso permanente de reduzir o ritmo de lançamento de modelos.
O impasse é de coordenação. Um laboratório que desacelera sozinho corre o risco de perder espaço para concorrentes que continuam avançando. A mesma lógica se estende à competição entre países, tornando mais difícil estabelecer limites voluntários.
OpenAI, Anthropic e Google DeepMind passaram a discutir possíveis iniciativas conjuntas de segurança, mas ainda não anunciaram um acordo formal.
Leia também: OpenAI, Anthropic e Google unem forças para enfrentar riscos da inteligência artificial
O temor não está apenas no aumento da capacidade dos modelos. Está na possibilidade de o processo usado para torná-los mais capazes acelerar a ponto de superar a capacidade humana de monitorar o que acontece, impor limites e corrigir falhas.
