“Padrinho da IA” deixa o Google para alertar sobre os perigos da tecnologia
O trabalho pioneiro de Geoffrey Hinton em deep learning e redes neurais ajudou a estabelecer a base para grande parte das tecnologias de IA que vemos hoje
Figuras de destaque estão alertando o mundo sobre os perigos da inteligência artificial. Entre elas estão o empresário Elon Musk, o intelectual de esquerda Noam Chomsky e o estadista aposentado de 99 anos Henry Kissinger.
Mas são as preocupações dos membros da comunidade de pesquisa que estão recebendo atenção especial. Geoffrey Hinton, o chamado “padrinho da IA”, deixou seu cargo no Google para poder falar mais livremente sobre os perigos da tecnologia que ajudou a criar.
Ao longo de décadas de carreira, seu trabalho pioneiro em deep learning (aprendizagem profunda) e redes neurais ajudou a estabelecer a base para grande parte das tecnologias de IA que vemos hoje.
No centro do debate sobre a IA está a questão de se os principais perigos estão no futuro ou no presente.
Nos últimos meses, vários modelos de inteligência artificial foram lançados. A OpenAI, apoiada pela Microsoft e responsável pelo ChatGPT, apresentou sua mais recente atualização, o GPT-4, em março. Outras gigantes da tecnologia apostaram em ferramentas concorrentes, como o Bard, do Google.
No entanto, Hinton afirmou à BBC que alguns dos perigos dos chatbots de IA são “bastante assustadores”. “Neste momento, eles não são mais inteligentes do que nós, até onde eu sei. Mas acho que em breve poderão ser.”
Em entrevista à revista “MIT Technology Review”, o cientista da computação também alertou para os “atores mal-intencionados” que podem usar a IA de maneiras que poderiam ter impactos prejudiciais na sociedade, como manipular eleições ou instigar violência.
COMO SERÁ O FUTURO?
Hinton, de 75 anos, diz que se aposentou do Google para poder falar abertamente sobre os riscos potenciais como alguém que não trabalha mais para uma gigante da tecnologia.
“Quero falar sobre as questões de segurança da IA sem ter que me preocupar com como isso pode afetar os negócios do Google”, disse ele à “MIT Technology Review”. “Enquanto for pago pelo Google, não posso fazer isso.” A empresa confirmou que Hinton se aposentou, após 10 anos supervisionando a equipe de pesquisa, em Toronto.
Desde que anunciou sua saída, ele tem reiterado que o Google “atua de forma muito responsável” em relação à IA. Também diz que há muitas coisas boas sobre a empresa que gostaria de falar, mas que esses comentários teriam “muito mais credibilidade se não estivesse mais no Google”.
No centro do debate sobre o estado atual da IA está a questão de se os principais perigos estão no futuro ou no presente. De um lado estão cenários hipotéticos de risco existencial causado por computadores que superam a inteligência humana. Do outro, preocupações com a tecnologia automatizada que já está sendo amplamente implantada por empresas e governos e que pode causar danos no mundo real.
“Para o bem ou para o mal, o que os chatbots fizeram foi tornar a IA uma conversa internacional que não inclui apenas especialistas e desenvolvedores”, afirma Alondra Nelson, que até fevereiro liderava o Escritório de Política Científica e Tecnológica da Casa Branca e seu esforço para criar diretrizes sobre o uso responsável de ferramentas de inteligência artificial.
“A IA não é mais abstrata. Acredito que agora temos abertura para ter uma nova conversa sobre como queremos que seja o futuro democrático e não explorador com a tecnologia”, disse Nelson em uma entrevista no mês passado.
VIÉS E PRECONCEITO
Vários pesquisadores há muito expressam preocupações sobre o viés racial, de gênero e outras formas de preconceito em sistemas de IA, incluindo grandes modelos de linguagem (LLMs) treinados em enormes conjuntos de textos que podem amplificar a discriminação que existe na sociedade.
Neste momento, os chatbots não são mais inteligentes do que nós. Mas, um dia, poderão ser.
“Precisamos dar um passo atrás e realmente refletir sobre quais necessidades estão sendo colocadas no centro da discussão sobre os riscos”, argumenta Sarah Myers West, diretora executiva do AI Now Institute. “Os danos causados pelos sistemas de IA hoje não são distribuídos uniformemente. Estão exacerbando os padrões de desigualdade existentes.”
Hinton foi um dos três pioneiros da IA que, em 2019, ganharam o Prêmio Turing, uma honra que se tornou conhecida como o “Prêmio Nobel da indústria de tecnologia”. Os outros dois vencedores, Yoshua Bengio e Yann LeCun, também expressaram preocupações sobre o futuro da IA.
Bengio, professor da Universidade de Montreal, assinou uma petição no final de março pedindo que as empresas de tecnologia concordassem com uma pausa de seis meses no desenvolvimento de sistemas de IA poderosos, enquanto LeCun, um dos principais cientistas da Meta (controladora do Facebook), adotou uma abordagem mais otimista.
