O desafio dos publishers não é só aparecer na IA. É não ser mal interpretado por ela
Jornalistas não controlam as respostas da IA, mas podem aumentar as chances de que o conteúdo que produzem seja interpretado corretamente
Desde que estrearam, em meados de 2024, os AI Overviews do Google – os resumos produzidos por inteligência artificial que aparecem no topo dos resultados de busca – convivem com uma crítica recorrente: às vezes, eles simplesmente estão errados.
E essa crítica é procedente. Os mais otimistas podem tratar episódios como a recomendação de usar cola na pizza para prender a cobertura como falhas naturais de uma tecnologia ainda em desenvolvimento. Mas, em meados deste ano, o jornal "The New York Times" encomendou à startup de IA Oumi um estudo para medir a frequência desses erros.
A versão mais recente dos AI Overviews acertou 91% das respostas. O índice pode parecer elevado, mas só até ser colocado na escala do Google, que processa bilhões de buscas diariamente. Mesmo uma taxa de erro de um dígito pode resultar em milhões de resumos imprecisos a cada hora.
Para ilustrar o problema, o jornal citou um experimento do repórter de tecnologia da BBC Thomas Germain. Ele publicou um post falso em um blog afirmando ser o melhor jornalista de tecnologia do mundo em competições de comer cachorro-quente. Em menos de um dia, os AI Overviews do Google passaram a repetir essa informação aparentemente sem qualquer verificação.
A brincadeira parece inofensiva porque a busca também era. Mas o mecanismo por trás dela não é.
Embora o experimento sugira que os AI Overviews são fáceis de manipular, ele funcionou principalmente porque não existia praticamente nenhum outro conteúdo sobre aquele assunto específico – um verdadeiro vácuo de informação. Em temas amplamente cobertos, um único post aleatório dificilmente teria impacto relevante.
A BUSCA FOI REESCRITA
O caso do cachorro-quente revela apenas uma das formas pelas quais sistemas de IA, e os AI Overviews em particular, podem falhar em sua principal missão: oferecer informações corretas. E essa precisão nunca foi tão importante.
A presença dos AI Overviews cresceu consideravelmente no último ano. Segundo um relatório publicado em abril pela startup QuickSEO, especializada em visibilidade para IA, eles já aparecem em 60,23% das pesquisas.
O topo da página de resultados não é o único lugar onde o público encontra resumos gerados por IA, mas continua sendo o mais importante. Afinal, é no Google que a maioria das pessoas faz suas buscas. Usuários de chatbots escolhem recorrer à IA; usuários do Google a recebem automaticamente.
Mesmo que esses resumos ainda apresentem erros com frequência preocupante, os veículos de comunicação precisam lidar com o fato de que seu conteúdo será cada vez mais apresentado ao público por meio desse filtro algorítmico. Eles não controlam essa camada intermediária, mas ainda podem influenciar a forma como seu conteúdo atravessa esse processo.
Para entender melhor por que os AI Overviews erram, conversei com Isis Blachez, líder de IA da NewsGuard e responsável pelo Monitor de Alegações Falsas de IA da organização. Ela resume as falhas em três categorias, as mesmas identificadas no estudo encomendado pelo "The New York Times".
1. A IA RECUPERA FONTES FRACAS OU IRRELEVANTES
Foi assim que surgiu a famosa recomendação de espalhar cola sobre a pizza para manter a cobertura no lugar. A sugestão veio originalmente de uma publicação no Reddit feita em tom de ironia (espera-se).
O problema é que a postagem respondia diretamente à pergunta feita pelo usuário, um fator importante para que sistemas de IA a recuperassem.
Embora pesquisas indiquem que esses mecanismos costumam privilegiar conteúdo jornalístico, reportagens que não estejam estruturadas de forma facilmente compreensível para máquinas podem acabar perdendo espaço para conteúdos muito menos confiáveis.
2. A IA ENCONTRA A FONTE CERTA, MAS A INTERPRETA ERRADO
Essa talvez seja a forma mais importante (e menos evidente) de erro.
Blachez cita um caso em que vários chatbots recorreram ao site de checagem Snopes para confirmar a falsa alegação de que o Irã havia atacado um navio petroleiro com bandeira do Paquistão. Na realidade, o artigo do Snopes desmentia exatamente essa afirmação. A IA simplesmente interpretou a conclusão ao contrário.
Nesses casos, não havia qualquer problema na reportagem original. O erro estava na interpretação feita pela máquina. É justamente esse tipo de falha que costuma gerar os maiores conflitos jurídicos envolvendo respostas produzidas por IA.
3. A INFORMAÇÃO DISPONÍVEL FOI MANIPULADA
É o caso do experimento do cachorro-quente. Em escala muito maior, o exemplo mais extremo é a agência de notícias Pravda, que inundou a internet com milhões de textos
distribuídos em sites que imitavam veículos jornalísticos para disseminar propaganda russa em escala industrial.
Embora seja um caso excepcional, ele mostra como atores coordenados podem fabricar uma falsa impressão de consenso ao publicar versões semelhantes da mesma narrativa em inúmeros sites, influenciando o material disponível para sistemas de IA.
COMO FACILITAR O ENTENDIMENTO DAS MÁQUINAS
Existem, portanto, diferentes maneiras de uma IA bem-intencionada ser levada ao erro – por falta de acesso à informação correta, por manipulação do ambiente informacional ou por problemas na forma como interpreta o conteúdo.
Se cabe às empresas responsáveis pelos modelos entregar respostas confiáveis aos usuários, qual é o papel dos veículos de comunicação?
Mesmo uma taxa de erro de um dígito pode resultar em milhões de resumos imprecisos a cada hora.
Muitos jornalistas adotam uma postura de resignação, acreditando que nada pode ser feito porque não controlam o que a IA fará com suas reportagens. Mas há maneiras de influenciar o resultado em cada uma das três categorias de falha.
Para que uma reportagem seja considerada, ela precisa estar acessível aos sistemas de IA. Para reduzir interpretações equivocadas, deve ser estruturada de forma clara para máquinas. E, para competir com conteúdos manipulados, é importante produzir textos que respondam diretamente às perguntas mais relevantes para o público.
Nesse processo de revisão voltado para a leitura por máquinas, algumas perguntas podem ajudar:
- As datas estão claramente associadas aos acontecimentos corretos?
- O texto deixa explícito quando uma alegação está sendo apenas relatada, confirmada ou desmentida?
- A principal conclusão aparece de forma direta ou depende apenas de inferências?
- Correções e atualizações estão claramente identificadas?
- O artigo diferencia a fonte original das reproduções posteriores?
- O título cria ambiguidades que só são esclarecidas no corpo do texto?
Assim como ocorreu com o SEO, tornar uma reportagem mais clara para algoritmos frequentemente também melhora sua clareza para leitores humanos. Mas isso não garante uma interpretação correta, apenas aumenta as chances.
O objetivo não deve ser tornar o jornalismo "à prova de IA". A meta é eliminar ambiguidades evitáveis e aumentar as chances de que informações corretas sobrevivam à camada intermediária das respostas automatizadas.
Leia mais: Como a IA está mudando quem controla as narrativas na internet
Os publishers não podem determinar o que o Google dirá sobre seu trabalho, nem devem ser responsabilizados por corrigir as limitações de um produto desenvolvido por outra empresa.
Mas, à medida que a IA se consolida como intermediária entre o jornalismo e seu público, continuar passivo dificilmente será uma estratégia eficaz. Ainda é possível tornar a verdade mais fácil de encontrar, mais difícil de interpretar de forma equivocada e muito mais resistente à substituição.
