Bots de IA da Meta e Alibaba quase tiraram do ar um arquivo histórico LGBTQIA+

Robôs ligados a grandes empresas de tecnologia elevaram os custos de hospedagem e obrigaram o fundador do projeto a aprender como impedir os acessos

Raspagem de dados feita por robôs eleva os custos de hospedagem para sites independentes
Créditos: Unsplash/ Magnific

Chris Stokel-Walker 4 minutos de leitura
Favoritar no Google

Jonathan Harborne criou uma enciclopédia sobre a história LGBT há 15 anos para documentar as dificuldades enfrentadas por pessoas de sua geração.

Ele temia que, à medida que mudanças sociais melhorassem a vida da população LGBTQIA+, a luta das gerações anteriores por reconhecimento e respeito fosse apagada da memória, assim como a dor provocada pela epidemia de Aids.

O site, chamado LGBT History Project, ultrapassou recentemente a marca de 50 milhões de visualizações desde seu lançamento, em 2011, e foi incluído no acervo permanente da Biblioteca Britânica.

Mas uma invasão de robôs de inteligência artificial interessados em extrair seu conteúdo quase tirou o projeto do ar. O tráfego automatizado deixou o site lento e aumentou os custos de manutenção.

Harborne percebeu o que estava acontecendo quando decidiu modernizar o site e sua hospedagem, migrando de uma plataforma que estava em funcionamento desde a criação do projeto.

Ele transferiu o conteúdo para um novo servidor da AWS, esperando deixar o site mais rápido e seguro. O resultado foi o oposto.

26 MIL REQUISIÇÕES EM UM ÚNICO DIA

Morador de Londres, Harborne conectou o servidor ao Claude Code e pediu ajuda para identificar o problema. A análise dos registros apontou um volume enorme de tráfego automatizado.

Em um único dia, segundo ele, um rastreador da Meta fez cerca de 26 mil requisições. O robô acessou não apenas os artigos publicados, mas também anos de históricos de edição, páginas de login e outras áreas do site. Ao todo, teria extraído cerca de 12 GB de dados.

O impacto foi direto porque Harborne financiou o projeto com recursos próprios. Para suportar a atividade dos robôs, ele precisou dobrar a capacidade do servidor. “Eu estava pagando para que empresas como a Meta treinassem suas inteligências artificiais”, afirma. “Tudo isso sai do meu próprio bolso.”

robôs da IA para raspagem de dados
Créditos: Growtika/ ilgmyzin/ Unsplash

A Meta não foi a única. Harborne diz que rastreadores ligados ao Alibaba e a outras empresas atingiram o site repetidas vezes durante três semanas. Para tentar barrá-los, ele passou noites aprendendo a configurar o Cloudflare, escrever regras de bloqueio e criar verificações capazes de distinguir pessoas de robôs.

Segundo Harborne, os rastreadores da Meta ignoraram o arquivo robots.txt do site. Esse arquivo serve para informar aos robôs quais partes de uma página podem ou não ser acessadas. Meta, Alibaba e Tencent (outra empresa citada por ele) não responderam aos pedidos de comentário da Fast Company.

PEQUENOS SITES PAGAM A CONTA DA IA

O caso está longe de ser isolado. Operadores de sites independentes enfrentam uma pressão crescente, espremidos entre o tráfego descontrolado de robôs e uma infraestrutura da internet dominada por poucas empresas.

Diferentes levantamentos têm registrado o aumento da extração de conteúdo por companhias de inteligência artificial. O Cloudflare estima que 30% de toda a atividade na web já seja gerada por robôs.

“Eu costumava manter um servidor em um computador que ficava na sala da minha casa”, diz Catherine Flick, professora de ética e tecnologia de games da Universidade de Staffordshire. “Hoje, isso já não é possível. E o prejuízo recai sobre a própria web, porque a internet deveria ser um espaço aberto.”

A internet está perigosamente próxima de se tornar um Velho Oeste dominado por valentões.

Apesar da experiência, Harborne pretende manter o projeto no ar enquanto tiver recursos para financiá-lo. Ele também reforçou os controles que determinam como os robôs podem acessar o LGBT History Project.

O problema, porém, vai além de um único site. Para Harborne, as empresas de IA correm o risco de destruir o próprio ecossistema de informações produzidas por pessoas que torna seus produtos úteis.

“É como um vírus que mata o próprio hospedeiro”, compara. “Se essas empresas derrubam os sites dos quais retiram os dados, acabam destruindo esse conteúdo para todos.”

UMA BATALHA DESIGUAL PELO CONTEÚDO DA INTERNET

Donos de pequenos sites têm poucos recursos para reagir quando algo assim acontece. A responsabilidade de bloquear os rastreadores fica com eles, enquanto conseguir a atenção das empresas responsáveis por esses sistemas pode ser quase impossível.

“Como você reclama com uma empresa do tamanho da Meta, da Apple ou do Alibaba?”, questiona Harborne. “Não existe fiscalização da internet. Não há ninguém a quem recorrer.”

Leia também: A teoria da internet morta é real. E está matando a web como a conhecemos

Na prática, administradores voluntários precisam enfrentar sozinhos uma batalha técnica, mesmo sem o conhecimento, o tempo ou o dinheiro das empresas cujos sistemas automatizados tentam barrar.

“É isso que acontece quando o lucro se torna o principal valor, acima dos direitos humanos”, afirma Carissa Veliz, especialista em ética da inteligência artificial da Universidade de Oxford. “A internet está perigosamente próxima de se tornar um Velho Oeste dominado por valentões, corporativos ou não.”


SOBRE O AUTOR

Chris Stokel-Walker é um jornalista britânico com trabalhos publicados regularmente em veículos, como Wired, The Economist e Insider saiba mais