Para este professor e pesquisador, futuro da IA passa pelo código aberto
Líder do Instituto Allen para IA reconhece os riscos da tecnologia, mas defende que mantê-la em segredo não é o caminho
O pesquisador e especialista em inteligência artificial Ali Farhadi é categórico ao defender a IA de código aberto: “a abertura é o único caminho possível”.
Farhadi é professor na Universidade de Washington, nos EUA, e CEO do Instituto Allen para IA (Ai2), uma das organizações sem fins lucrativos mais influentes na pesquisa de inteligência artificial.
O Ai2 atua em três frentes principais: criação de ecossistemas abertos para democratizar o acesso à IA, desenvolvimento de ferramentas que ajudam cientistas a lidar com o excesso de informações e uso da tecnologia para proteger o meio ambiente.
O instituto tem sido uma voz importante no debate sobre a transparência no desenvolvimento de novas tecnologias de inteligência artificial. A organização esteve por trás de projetos inovadores, como a pesquisa inicial em modelos de linguagem (incluindo a primeira iteração de um modelo de linguagem, o ELMo) e a Xnor.ai, uma startup derivada que depois foi adquirida pela Apple.
Farhadi se juntou ao Ai2 em 2015, após receber um convite de Paul Allen, fundador do instituto. Na época, ele era um jovem professor assistente na Universidade de Washington, aconselhado a focar na carreira acadêmica. Mesmo assim, decidiu abraçar a oportunidade.
“Era uma oportunidade única; não pensei duas vezes. Aceitei imediatamente, e isso transformou minha carreira”, conta Farhadi. “Hoje, sei que foi a melhor decisão que já tomei. Não só impulsionou minha pesquisa e minha trajetória acadêmica, mas também me proporcionou aprendizados que definiram meu futuro.”
Cinco anos depois, o instituto vendeu a Xnor.ai (da qual ele era cofundador) para a Apple por cerca de US$ 200 milhões. A Xnor.ai era especializada em ferramentas de IA de baixa potência para dispositivos locais.
Farhadi chegou a trabalhar na Apple por um período antes de retornar ao Ai2 como CEO, em 2023, com a missão de promover uma abordagem aberta para a inteligência artificial. “Não foi uma decisão difícil, era como se estivesse voltando para casa. Mas o momento era crítico, dado o avanço da IA”, diz ele.
Sob sua liderança, o Ai2 lançou o OLMo, uma série de modelos de linguagem de código aberto. Diferentemente dos modelos proprietários, que operam em plataformas fechadas, este sistema oferece completa transparência, disponibilizando os pesos dos modelos, os códigos de treinamento, registros detalhados, métricas e os códigos de inferência.
Também inclui mais de 500 pontos de verificação intermediários, além de ferramentas que permitem rastrear os dados utilizados em cada etapa do treinamento. O conjunto de dados Dolma, a base desses modelos, está disponível publicamente na plataforma Hugging Face e reúne conteúdos como publicações acadêmicas, livros, códigos e materiais de consulta.
No final de novembro, o Ai2 lançou o OLMo 2, descrito como “o conjunto de modelos de código aberto mais avançado até o momento”. Essa versão inclui modelos de sete e 13 bilhões de parâmetros, treinados com até cinco trilhões de tokens.
O maior problema da IA hoje é que ainda não compreendemos totalmente esses sistemas.
“Para mim, código aberto significa que qualquer pessoa pode pegar o que foi desenvolvido, entender, modificar e construir em cima disso”, explica. “Sem isso, limitamos muito o potencial de inovação de pesquisadores e desenvolvedores.”
Embora reconheça os riscos associados à inteligência artificial, Farhadi acredita que a falta de transparência só agrava os problemas. “Manter essas tecnologias em segredo, como caixas-pretas, sem que ninguém saiba como funcionam, só aumenta as chances de danos não intencionais”, alerta.
“O maior problema da IA hoje é que ainda não compreendemos totalmente esses sistemas. Torná-los acessíveis permitiria que milhões de profissionais colaborassem para resolver essas lacunas”, conclui.