Confiar na IA pode deixar você mais vulnerável a fake news
O aplicativo e o portal contam com centenas de aulas distribuídas em diferentes níveis de proficiência
Mais um estudo reforça uma conclusão que vem se repetindo: quanto mais você deixa a inteligência artificial pensar por você, menor tende a ser sua capacidade de fazer isso sozinho.
Desta vez, pesquisadores do Instituto de Tecnologia de Massachusetts (MIT) investigaram como o uso de IA para distinguir notícias falsas de verdadeiras afeta a habilidade das pessoas de identificar desinformação sem ajuda.
Recorrer a chatbots como fonte de notícias está se tornando cada vez mais comum, especialmente entre os mais jovens. Levantamentos recentes do Pew Research Center mostram que um em cada cinco adolescentes nos Estados Unidos obtém notícias por meio de chatbots. Entre adultos com menos de 50 anos, um em cada cinco afirma usar IA para se informar pelo menos ocasionalmente.
O estudo, conduzido pelo MIT Media Lab, acompanhou 67 participantes durante quatro semanas. Eles precisavam avaliar manchetes e imagens jornalísticas, indicando se acreditavam que eram verdadeiras ou falsas, em alguns casos com o auxílio de um chatbot de IA.
Quando contavam com a ajuda da ferramenta, os participantes eram 21% mais precisos na identificação de notícias falsas. Mas, ao fim do experimento, surgiu um efeito colateral preocupante.
Na quarta semana, a capacidade dos participantes de identificar fake news sem assistência havia caído 15 pontos percentuais em relação ao desempenho registrado antes do início do estudo. Apesar disso, a confiança aumentou: um quarto dos participantes afirmou acreditar que havia melhorado sua capacidade de detectar desinformação, embora seus resultados mostrassem exatamente o contrário.
Anku Rani, uma das autoras principais do estudo, afirmou ao MIT News que os resultados refletem a confiança excessiva que muitas pessoas depositam na inteligência artificial.
"As pessoas ficam fascinadas com esses modelos de linguagem aparentemente 'mágicos', mas esquecem que eles são apenas modelos estatísticos que preveem o próximo token de uma sequência", afirmou. "Muitos comportamentos impressionantes surgem com o aumento da escala desses modelos, mas isso traz limitações reais, tanto no que eles conseguem gerar de forma confiável quanto no impacto que exercem sobre quem os utiliza."
IA e declínio cognitivo
Este está longe de ser o primeiro estudo a sugerir que a dependência da IA prejudica habilidades cognitivas.
Uma pesquisa publicada em maio mostrou que apenas dez minutos utilizando IA já foram suficientes para reduzir a capacidade dos participantes de resolver problemas de matemática e questões de compreensão de texto semelhantes às do SAT, exame de admissão em universidades dos Estados Unidos.
Outros estudos apontaram efeitos semelhantes em diferentes áreas: médicos perderam parte da capacidade de identificar casos de câncer sem auxílio tecnológico; profissionais que trabalham com dados apresentaram queda no pensamento crítico; e pessoas que escreviam redações com assistência de IA demonstraram redução na atividade cerebral.
Em conjunto, essas pesquisas apontam para o chamado "paradoxo da dependência da IA". Inicialmente, a inteligência artificial melhora o desempenho humano, mas, quando a assistência é retirada, as habilidades das pessoas passam a ser inferiores às que possuíam antes de começar a usar a tecnologia.
Uma forma mais inteligente de usar a IA
Embora o estudo sirva de alerta para quem depende da IA para distinguir notícias verdadeiras de falsas, os pesquisadores afirmam que existem maneiras de utilizar a tecnologia sem comprometer a capacidade de julgamento.
Valdemar Danry, também autor principal do trabalho, defende o uso de interações baseadas no método socrático. Em vez de fornecer respostas prontas, a IA faria perguntas capazes de conduzir o usuário ao raciocínio correto.
Segundo ele, essa abordagem ajuda as pessoas a desenvolverem habilidades para identificar desinformação por conta própria, mesmo quando a inteligência artificial deixa de estar disponível.
"As IAs que simplesmente dão respostas prontas tendem a estimular a dependência. Já aquelas que fazem perguntas, seguindo o método socrático, envolvem o usuário no processo de aprendizagem e o ajudam a desenvolver sua própria capacidade de distinguir a verdade", afirma Danry. "Mas existe um equilíbrio entre velocidade e esforço."
Ele conclui que ainda há muito trabalho pela frente.
"Precisamos garantir que não vamos simplesmente transferir para esses modelos tarefas críticas que queremos continuar sendo capazes de realizar. Precisamos desenvolver um novo tipo de alfabetização em inteligência artificial."
