A era do AI slop, o lixo digital que ameaça dominar a internet
Conteúdos artificiais de baixa qualidade se multiplicam, poluem plataformas e já representam mais da metade do tráfego online
AI slop virou nosso atalho coletivo para descrever o lixo digital de curta duração. O termo em inglês "slop" evoca uma coisa líquida, pegajosa – uma gosma prestes a transbordar sobre tudo. O termo é usado porque o conteúdo gerado por IA é frequentemente de baixa qualidade, vulgar, bobo, às vezes até niilista.
O AI slop não nasceu da inteligência artificial em si. O termo surgiu por volta de 2023, depois da explosão da IA generativa e da chegada de ferramentas como o ChatGPT ao público geral, segundo o Google Trends. De repente, qualquer usuário podia criar todo tipo de coisa.
Enquanto as empresas de IA ainda tentam definir um modelo de negócios – elas estão trabalhando nisso! – o público ficou encarregado de navegar por essa farra gratuita e subsidiada, em que qualquer um consegue produzir bobagens com meia dúzia de palavras-chave e um chatbot.
Com a produção em massa vem o excedente e, depois, o lixo. A gente separa o lixo físico porque, caso contrário, os resíduos se espalham, estragam tudo e reduzem a qualidade geral. A IA está fazendo algo parecido na internet: muito do conteúdo gerado por IA é considerado lixo, só que, nesse caso, não estamos fazendo quase nada para limpar a bagunça.
O desafio do conteúdo cultural produzido em massa não é novo: tecnologias inovadoras sempre criaram novas formas de arte, mas também montanhas de inutilidades, aponta Deni Ellis Béchard, que escreve sobre tecnologia para a revista "Scientific American".
O mesmo aconteceu com a imprensa, com a internet e com o cinema. “Em todos esses casos, a ideia não era produzir obras-primas; era criar rápido e barato”, escreve Béchard.
“Mas a produção de novos tipos de slop amplia o acesso, permitindo que mais pessoas participem – assim como a internet e as redes sociais geraram bobagens, mas também novos criadores. Talvez porque grande parte da cultura produzida em massa seja esquecível, trabalhos originais se destaquem e o público passe a exigir mais.”
BOTS OCUPAM CADA VEZ MAIS ESPAÇOS
Em algum momento, chegaremos ao ponto em que a IA vai ultrapassar a atividade humana orgânica na internet. Como observou o site "Axios", a rede está migrando de um espaço pessoa-a-pessoa para um ambiente bot-a-bot. Isso é difícil de medir: afinal, os bots tentam justamente se passar por humanos.
Ainda assim, uma empresa de cibersegurança constatou recentemente que 51% do tráfego da internet já é gerado por bots. No ano passado, uma análise publicada pela revista "Wired" concluiu que, ao longo de algumas semanas, 47% dos posts no Medium pareciam ser produzidos por IA. A liderança da plataforma parecia totalmente tranquila com isso – desde que ninguém estivesse lendo.
Mas, mesmo que não estejamos consumindo esse lixo, ele ainda introduz uma nova camada de duplicidade no conhecimento compartilhado online. E, mais cedo ou mais tarde, a mesma confusão vai atingir as próprias máquinas.
Um estudo recente publicado na "Nature" mostrou que modelos de IA têm dificuldades com viés de atribuição. Pior: “modelos mais avançados demonstram competência em tarefas de conhecimento recursivo, mas ainda dependem de estratégias de raciocínio inconsistentes, sugerindo padrões superficiais em vez de compreensão epistemológica robusta.”
Tecnologias de reconhecimento facial foram construídas a partir de enormes volumes de fotos coletadas nas redes sociais. Mas rostos gerados por IA podem bagunçar essa metodologia.
Alguns meses atrás, o "FedScoop" revelou que a Clearview AI – empresa controversa que raspou milhões de imagens da internet para criar um dos sistemas de reconhecimento facial mais precisos e vender essa tecnologia ao governo – queria agora desenvolver um detector de deepfakes.
AI SLOP E O COLAPSO DOS MODELOS
Enquanto isso, crescem as preocupações sobre a IA se contaminar a si mesma. Existe, por exemplo, o receio sério de um fenômeno chamado “colapso de modelo”. Outro estudo publicado na "Nature" no ano passado concluiu que o uso indiscriminado de conteúdo gerado por IA no treinamento causa defeitos irreversíveis nos modelos.
Isso abre espaço para um perigoso ciclo de retroalimentação, corrompendo os dados humanos – reais e “verdadeiros” – que deveriam tornar a tecnologia tão poderosa. Em meio aos elogios viscosos direcionados às empresas de IA, o slop também aparece como um problema para elas.
a internet está migrando de um espaço pessoa-a-pessoa para um bot-a-bot.
O cenário mais assustador lembra a Síndrome de Kessler, conceito usado para descrever a poluição do espaço sideral. Em órbita baixa, detritos espaciais colidem com outros detritos, gerando ainda mais lixo, tornando tudo mais denso, perigoso e difícil de usar.
Algo semelhante pode estar no futuro da inteligência artificial: um vai e volta caótico entre criações e detecções de IA, todas treinadas com dados cada vez mais contaminados por outras IAs.
Quando alguém se descuida, embaralha palavras e tropeça. A IA pode ser tão falível quanto.
