OpenAI diz que a era da AGI começou. Pesquisadores não estão tão certos
O GPT-6 Astra impressiona, mas especialistas dizem que os resultados em testes não provam a chegada da inteligência artificial geral.
No início deste mês, durante o lançamento do GPT-6 Astra, novo modelo da OpenAI, o presidente da empresa, Greg Brockman, declarou que a “era da AGI” havia começado. A sigla, do inglês artificial general intelligence, significa inteligência artificial geral e costuma se referir a sistemas capazes de igualar ou superar as habilidades humanas em praticamente qualquer tarefa cognitiva.
Vista há décadas como o grande objetivo da pesquisa em IA, a AGI sempre pareceu estar em algum ponto do horizonte. Agora, aparentemente, chegou — pelo menos se acreditarmos em Brockman. O CEO da Nvidia, Jensen Huang, outra voz influente do setor, parece convencido. Ele parabenizou a OpenAI pela conquista e publicou no X: “A AGI chegou”.
Há, porém, um problema nessa declaração: não existe um critério universalmente aceito para determinar o que é AGI. E muitos pesquisadores contestariam a ideia de que os modelos atuais já atingiram esse patamar.
Essa ambiguidade também dá às empresas espaço para anunciar a conquista antes da hora, sobretudo pelo valor de marketing que ela carrega. A situação lembra, em certa medida, a corrida das operadoras de telefonia para acrescentar o próximo “G” ao nome de suas redes antes que a tecnologia atenda por completo ao padrão técnico.
O Astra é, de fato, um modelo impressionante. Ele quase gabaritou um teste de desempenho desenvolvido para dificultar que fabricantes treinem seus modelos especificamente para a avaliação — um problema recorrente nos testes de IA.
Criado pelo pesquisador François Chollet, o ARC-AGI-3 avalia a capacidade de um modelo de enfrentar uma situação desconhecida — neste caso, uma série de videogames —, descobrir como ela funciona, aprender a jogar com eficiência e vencer.
Leia também: OpenAI pausa treinamento de nova IA após alerta de segurança
Mas a pontuação do Astra depende muito do software usado para executar o teste. Com a estrutura da própria OpenAI, chamada de harness — a camada de software que permite ao modelo interagir com a avaliação —, o Astra marcou 99,9%. Na configuração padrão do ARC-AGI-3, desenvolvida para oferecer uma interface mais uniforme aos modelos, a pontuação foi de 62,7%.
De todo modo, o ARC-AGI-3 não representa a linha de chegada na corrida pela AGI, afirma Chollet. Isso porque avalia apenas parte das características necessárias, em escalas muito pequenas.
“No mundo real, o aprendizado contínuo ocorre em horizontes de tempo muito mais longos do que nos jogos do ARC 3 — décadas, em vez de minutos. A complexidade de modelar o mundo é muito maior, os objetivos são muito mais ambíguos, o espaço de possibilidades a explorar é muito mais amplo, e assim por diante”, diz Chollet, por e-mail à Fast Company.
“Portanto, resolver o teste é um forte sinal de progresso, já que os sistemas anteriores não apresentavam essas características. Mas isso não é uma prova de AGI, e esse nunca foi o propósito.”
AVANÇO DENTRO DA TENDÊNCIA
“Não estamos nem perto da AGI”, afirma Gary Marcus, professor da Universidade de Nova York e conhecido crítico da IA, em mensagem à Fast Company. “Isso é apenas marketing de pessoas que não conhecem as definições originais ou estão baixando a régua de propósito.”
Marcus também observa que o Astra não parece representar uma ruptura com os modelos anteriores. Se fosse de fato uma AGI, o modelo deveria superar os concorrentes de forma decisiva, e não apenas se equiparar a eles no uso cotidiano, escreveu o pesquisador em seu Substack no início deste mês.
Ele chama a atenção para o desempenho do Astra no Epoch Capabilities Index, um indicador criado pela Epoch AI, organização independente sem fins lucrativos, que reúne resultados de diversos testes de IA.
Leia também: Frear ou acelerar a IA? Entenda a disputa que envolve EUA, China e Europa
O Astra estabeleceu um novo recorde: 169 pontos, contra a máxima anterior de 163. Mas a análise da Epoch concluiu que o avanço ainda era compatível com a trajetória de progresso que a IA já vinha seguindo.
Em outras palavras, o Astra pode ser melhor do que seus antecessores, mas a evolução não parece representar a ruptura que, na visão de Marcus, a AGI deveria trazer.
Para o pesquisador Andy Konwinski, cofundador da Databricks, da Perplexity e da Laude, não é preciso mergulhar nos números dos testes para enxergar as diferenças entre a inteligência artificial e a humana.
“Esses sistemas ainda não conseguem pensar por conta própria por muito tempo”, diz à Fast Company. “Eles conseguem construir softwares complexos ou encontrar muitos erros, mas isso ainda é uma capacidade restrita. São muito bons em programação, mas a maior parte do valor gerado no mundo não vem de engenheiros de software. Eles não estão cultivando nossos alimentos, fabricando nossos painéis solares nem administrando nosso governo.”
AINDA NÃO É “GERAL” O SUFICIENTE
O pesquisador Jacob Coxon, da Anthropic, pediu demissão na semana passada por acreditar que os laboratórios de IA não conseguem, hoje, mitigar os riscos de sistemas cada vez mais inteligentes e autônomos. A decisão levou vozes de dentro e de fora dos grandes laboratórios a pedir uma desaceleração das pesquisas voltadas a ampliar as capacidades da IA.
Leia também: Agentes da OpenAI trapacearam, hackearam a Hugging Face e esconderam provas
Mas as ameaças mais imediatas desses sistemas estão ligadas a habilidades específicas, como a capacidade de identificar e explorar vulnerabilidades de segurança em softwares. Não decorrem de um salto repentino na inteligência geral.
O cientista de dados Ben Goertzel, que cunhou o termo “inteligência artificial geral”, ou AGI, em 2005, diz que sua impressão após usar o Astra é a de um modelo muito forte em algumas áreas e ainda fraco em outras.
“Ele supera os humanos em muitos aspectos da matemática e da programação — embora não, a meu ver, na inovação radical nessas áreas — e também é mais inteligente do que eu em várias outras coisas”, afirma Goertzel. “Então, temos um sistema que supera os humanos em algumas tarefas e fica abaixo deles em outras. Compará-lo a uma pessoa acaba sendo algo complicado, em vez de uma simples resposta de sim ou não.”
Goertzel, que hoje lidera as organizações de pesquisa em IA descentralizada SingularityNET e ASI Alliance, diz que uma boa estrutura de software torna o Astra muito mais útil. Ainda assim, acrescenta, continuam faltando aspectos que nenhuma estrutura desse tipo consegue suprir.
Leia também: Tudo o que sabemos sobre o Astra, novo modelo da OpenAI
Entre eles estão “a forma como o Astra representa e compreende a si mesmo [...], a forma como se lembra de toda a sua vida — ou não — e usa essas memórias no que diz e decide agora, e a forma como coordena seus diferentes objetivos e aspirações, na medida em que os tem, o que não é muito”, explica.
Brockman nem sequer foi o primeiro a declarar publicamente que a AGI havia sido alcançada. Huang fez essa afirmação em março. Em julho, o CEO da OpenAI, Sam Altman, disse que já estamos na singularidade: uma fase em que modelos de IA assumem e aceleram o desenvolvimento de novos modelos, cada vez melhores, deixando os humanos em grande parte fora do processo.
Declarar a chegada da AGI fica mais fácil quando há tanto debate sobre o que ela significa. Não existe consenso em torno de uma única definição.
Os laboratórios de IA adotam definições diferentes das usadas por pesquisadores independentes — e essas definições podem tornar a meta mais fácil de alcançar. A OpenAI modificou sua própria definição várias vezes. A versão atual fala em “sistemas altamente autônomos que superam os humanos na maior parte do trabalho de valor econômico”.
O Center for AI Safety, organização dedicada à segurança da IA, propõe uma definição mais detalhada. Ela exige que um modelo atinja patamares elevados em dez áreas cognitivas, que abrangem raciocínio, memória e percepção. E há muitas outras.
“Ninguém tem uma definição de AGI que se sustente”, diz Konwinski. “Então, que diferença faz se ela ‘chegou’?”
