A IA não está só escrevendo por você. Está fazendo todo mundo soar igual
A popularização dos LLMs pode estar criando uma linguagem mais homogênea e reduzindo sinais de personalidade, valores e identidade nos textos
Mais de um terço de todas as páginas da internet publicadas desde o lançamento do ChatGPT, em novembro de 2022, foi produzido por IA, segundo o Pew Research Center. E a escrita está ficando mais simples do que nunca.
Essa enxurrada de textos gerados por inteligência artificial também pode estar mudando a maneira como os seres humanos escrevem.
Um novo estudo publicado na "Nature Human Behavior" mostra que os grandes modelos de linguagem (LLMs) podem restringir a escrita das pessoas a um conjunto menor de normas linguísticas, reduzindo a diversidade de estilos e apagando alguns dos sinais de identidade presentes em nossas palavras.
Há três anos, o pesquisador principal Zhivar Sourati leu "The Secret Life of Pronouns: What Our Words Say About Us" (A vida secreta dos pronomes: o que nossas palavras dizem sobre nós, em tradução livre) de James Pennebaker.
O livro explora como os valores pessoais, os contextos e as crenças das pessoas podem fazer com que elas comuniquem as mesmas ideias usando palavras diferentes.
Ao mesmo tempo, os LLMs estavam se tornando mais populares, e Sourati começou a se perguntar se essa tecnologia poderia reduzir essa diversidade linguística.
“Começamos nos perguntando: o que realmente aconteceria quando o texto de todo mundo passasse pelos mesmos modelos?”, conta Sourati.
“Se você coloca essa camada sobre o texto de todo mundo, será que mudaria alguns desses elementos que já sabemos existir nos textos das pessoas? Isso teria algum efeito significativo? Quais seriam as implicações?”
Então, ele decidiu descobrir. Primeiro, fez uma análise de séries temporais usando cerca de 80 mil artigos acadêmicos, 400 mil matérias jornalísticas e 300 mil histórias publicadas no Reddit, escritos antes e depois da introdução do ChatGPT.
os mais vulneráveis aos efeitos de homogeneização da IA são as que ainda estão desenvolvendo suas capacidades cognitivas.
O pesquisador descobriu que, após a adoção de ferramentas de escrita com IA, a variação na complexidade dos textos passou a convergir cada vez mais para normas estilísticas comuns. A tendência foi consistente nos três conjuntos de dados.
Depois, Sourati e sua equipe conduziram um experimento mais tradicional. Eles fizeram com que o GPT-3.5, o Gemini e o Llama 3, da Meta, reescrevessem textos produzidos por humanos a partir de diferentes tipos de prompts.
Embora os modelos tenham preservado em grande parte o significado dos textos, eles reduziram a variação na complexidade da escrita entre 21% e 50%.
Mas Sourati queria entender melhor as implicações sociais: de que maneira os LLMs estão apagando os sinais de identidade individual presentes em nossa escrita?
INTELIGÊNCIA ARTIFICIAL E ESCRITA HUMANA
A equipe recorreu a textos escritos por pessoas cujos traços pessoais haviam sido identificados por meio de questionários psicológicos. Assim como no experimento anterior, os pesquisadores passaram os textos por um LLM.
Modelos estatísticos foram usados para prever características – como dados demográficos, personalidade, empatia e valores morais – com base em elementos linguísticos. Depois que os textos foram aprimorados pela IA, a precisão dessas previsões caiu, em média, 6%.
Na terceira etapa do estudo, Sourati investigou exatamente o que estava sendo apagado. Os resultados não foram uniformes. Os LLMs alteraram diferentes sinais linguísticos de maneiras distintas, dependendo do traço pessoal que estava sendo analisado.
Sourati acredita que depender dos LLMs para fazer toda a sua escrita pode ter implicações perigosas. O tipo de resolução de problemas necessário no mundo atual, argumenta, depende de diversidade cognitiva, e não apenas de diversidade linguística.
“Essa é a parte assustadora”, afirma o pesquisador. “Porque, se todo mundo estiver usando modelos de linguagem, eles terão a capacidade de reescrever qual é a maneira socialmente correta de dizer alguma coisa ou qual é uma maneira considerada crível de expressar uma perspectiva.”
Sourati espera que a diversidade se torne um princípio de design no desenvolvimento de grandes modelos de linguagem. Na sua visão, as pessoas mais vulneráveis aos efeitos de homogeneização dos LLMs são aquelas que ainda estão desenvolvendo suas capacidades cognitivas, especialmente os estudantes.
Leia mais: Estamos todos escrevendo igual por causa da IA?
Para ele, as pessoas precisam aprender primeiro a pensar por conta própria. Só então poderão usar os LLMs de maneira mais criativa.
“Se você já sabe como raciocinar sobre alguma coisa, talvez possa usar esses modelos para aproveitar apenas os seus lados positivos, sem sofrer todos os efeitos destrutivos que eles têm sobre nossas capacidades coletivas de resolver problemas.”
