Por que regras e letramento são incapazes de conter o lixo produzido por IA
De vendedores a analistas, muitos usam IA para produzir materiais convincentes, mas cada vez mais distantes da realidade
Histórias sobre todo tipo de conteúdo gerado por IA no ambiente profissional tornaram-se parte do ruído de fundo da vida desde que a IA generativa entrou no mainstream, há três anos.
Citações inventadas, números falsos e referências que levam a pesquisas que não existem já apareceram em artigos acadêmicos, petições judiciais, relatórios de governos e matérias jornalísticas.
Em muitos casos, esses episódios podem ser entendidos como falhas técnicas: a IA “alucinou”, alguém esqueceu de checar os fatos e um erro constrangedor – embora honesto – virou manchete.
Mas, em outros casos, eles são apenas a ponta de um iceberg muito maior, a parte visível de um fenômeno bem mais insidioso, que antecede a IA, mas que será amplificado por ela. Em alguns setores, a questão de uma afirmação ser verdadeira ou falsa importa pouco – o que conta é se ela é convincente.
Enquanto comentaristas discutem o “momento pós-verdade”, consultores e outros “produtores de conhecimento” há muito tempo vêm tratando a verdade como algo que se pode construir segundo sua conveniência.
A IA produz besteiras melhor, mais rápido e em maior volume do que qualquer ser humano.
Se é melhor para os resultados financeiros que os dados apontem para uma direção em vez de outra, sempre haverá alguém disposto a conduzir uma pesquisa cujo único objetivo é encontrar a “resposta certa”.
É comum que informações sejam embutidas em apresentações e relatórios feitos para apoiar a narrativa de um cliente ou os interesses da própria empresa, enquanto fatos inconvenientes são minimizados ou completamente ignorados.
A IA generativa fornece uma ferramenta extremamente poderosa para esse tipo de distorção: mesmo quando não está inventando dados "do nada", ela pode oferecer dezenas de formas de esconder a verdade ou fazer com que “fatos alternativos” soem convincentes.
MENTIRA OU PÓS-VERDADE?
Falando francamente, muitos “trabalhadores do conhecimento” passam a maior parte de seu tempo produzindo aquilo que o filósofo Harry Frankfurt chama de “bullshit” (que podemos traduzir como "besteira"). E o que é “bullshit”, segundo Frankfurt? Sua essência, diz ele, “não é ser falso, mas ser falso de propósito, ser uma encenação”.
O mentiroso, explica Frankfurt, se importa com a verdade, ainda que de uma forma negativa, já que quer escondê-la. O “bullshitter” não se importa nem um pouco. Ele pode até dizer a verdade por acidente. O que importa não é a precisão, mas o efeito – ou seja, como suas palavras influenciam o público, que impressão causam, do que elas permitem que ele escape.
Para muitos profissionais e empresas, palavras em relatórios e apresentações não servem para descrever a realidade ou sustentar discussões honestas, mas sim para cumprir a função do “bullshitter”.
O trabalho do conhecimento é um dos principais fornecedores do que o antropólogo David Graeber chamou de “bullshit jobs” – empregos que envolvem tarefas que nas quais nem quem as executa acredita, sinceramente, ter utilidade real.
Para alguns, a questão de uma afirmação ser verdadeira ou falsa importa pouco, o que conta é se ela é convincente.
Por décadas, fornecedores de tecnologia, analistas e consultores foram recompensados por produzir material que parece correto, rigoroso e baseado em dados – a apresentação com 30 slides, o relatório cheio de formalidades. O material não precisava ser bom. Só precisava parecer bom.
Se esse é o objetivo – se as palavras servem mais para performar do que para informar, se o ideal é produzir besteiras eficazes e não contar a verdade –, então faz todo sentido usar IA. A inteligência artificial produz besteiras melhor, mais rápido e em maior volume do que qualquer ser humano.
Assim, quando consultores e analistas recorrem à IA generativa para criar relatórios e apresentações, eles estão apenas obedecendo à lógica e aos incentivos fundamentais do sistema em que operam. O problema não é que a IA produz besteiras, e sim que tanta gente esteja disposta a dizer o que for preciso para inflar resultados.
BESTEIRA x QUALIDADE
A resposta para isso não está em novas políticas ou treinamentos. Eles têm seu papel, mas, na melhor das hipóteses, tratam os sintomas, não as causas. Se queremos chegar à raiz do problema, primeiro é preciso entender o que perdemos ao adotar a besteira, para depois descobrir como recuperar.
No livro "Zen e a arte da manutenção de motocicletas", o autor, Robert Pirsig, usa o termo “qualidade” para nomear a característica que torna algo bom. É algo intangível: impossível de definir, mas que a gente reconhece na hora.
Se as instituições responsáveis pela produção de conhecimento – não apenas consultorias, mas universidades, corporações, governos e plataformas de mídia – fossem movidas por um senso genuíno de qualidade, seria muito mais difícil a besteira se espalhar.
Instituições ensinam valores pelo que recompensam, e passamos décadas recompensando a produção de besteiras. Consultores apenas fazem, em escala máxima, o que todos fomos treinados a fazer em certa medida: produzir algo que pareça bom sem nos importar se realmente é bom.
Primeiro você veste a máscara, dizem, e depois a máscara veste você. No começo, talvez a gente ainda consiga produzir besteiras e reconhecê-las como o que realmente são. Mas, com o tempo, quanto mais nos aprofundamos no "complexo industrial da besteira", mais besteiras produzimos.
A IA pode oferecer dezenas de formas de esconder a verdade ou fazer com que “fatos alternativos” soem convincentes.
Quanto mais besteiras produzimos, mais perdemos a capacidade de perceber para onde estamos indo. Começamos a confundir besteira com qualidade. Não é a inteligência artificial que causa esse tipo de cegueira. A tecnologia apenas a escancara.
O caminho não é resistir à IA nem idealizar lentidão e ineficiência. É ser brutalmente honesto sobre o que estamos produzindo e por quê.
Sempre que alguém ficar tentado a deixar passar material gerado por IA porque “está bom o suficiente”, deveria se questionar: "estou criando algo de qualidade ou apenas adicionando ao monte de besteiras?".
Essa pergunta, e a disposição de respondê-la com sinceridade, vai determinar se a IA se tornará uma ferramenta de excelência ou apenas mais uma máquina que troca profundidade por aparência.
