Quem vai proteger a internet das ameaças criadas pela própria IA?

Quem trabalha com segurança cibernética ou com os fundamentos da infraestrutura digital não quer viver em "tempos interessantes". Mas, neste momento, não tem escolha.

A Binance acaba de ser hackeada naquele que, até agora, é o maior roubo de criptomoedas da história. A Anthropic, empresa responsável pelo Claude, conseguiu evitar por pouco um grande ataque por meio de uma extensão de terceiros que permitiria aos hackers instalar worms (um tipo de malware) nos computadores afetados.

No centro dessa situação estão empresas de inteligência artificial como Anthropic e OpenAI, que, ao mesmo tempo, estão dando mais poder aos hackers e se apresentando como a única linha de defesa contra eles. Elas encontraram um novo nicho de mercado: transformar a proteção digital em uma espécie de esquema de extorsão.

A ameaça pode ser quantificada. Falhas graves de segurança são classificadas como CVEs (sigla em inglês para vulnerabilidades e exposições comuns) e cerca de 400 mil foram oficialmente registradas desde 1988. Desse total, 13 mil surgiram apenas no último mês.

O PHP2Shell é um exemplo perfeito disso. Se você passou algum tempo nas redes sociais nas últimas semanas, provavelmente ouviu comentários sobre o PHP2Shell e sobre a gravidade da ameaça.

Cerca de 70% dos sites dependem de códigos escritos em PHP. O anúncio de uma falha fundamental nessa linguagem provocou pânico. Sites como o Wikimedia saíram preventivamente do ar até que uma correção fosse disponibilizada.

Um detalhe importante: os desenvolvedores da Fundação PHP já conheciam essa falha desde 2024, mas não conseguiram chegar a um consenso sobre como resolvê-la. Cada correção proposta tinha custos associados e, de qualquer maneira, ninguém sabia exatamente como lidar com esse tipo de vulnerabilidade.

as empresas de ia estão vendendo a solução para o problema que elas mesmas ajudaram a introduzir.

A ameaça era completamente teórica. Ela estava ali, à espera de uma solução – o que não era o fluxo de trabalho ideal, mas também não representava uma ameaça de proporções catastróficas até a chegada da IA generativa. Quando a vulnerabilidade foi anunciada publicamente, o que antes era um fluxo limitado de ataques se transformou em uma enxurrada.

As correções foram disponibilizadas rapidamente, em alguns casos por voluntários, e todos os responsáveis por sites que utilizam PHP foram orientados a atualizar seus sistemas o mais depressa possível para se proteger.

Esse foi apenas um caso, mas praticamente todo mundo espera que outras falhas sejam descobertas. Surpreendentemente, quem está fazendo mais barulho sobre o perigo são as próprias empresas de inteligência artificial.

MONETIZAÇÃO DO CAOS

As companhias de IA não perdem a oportunidade de destacar o quanto tudo isso é perigoso e quantas outras falhas e vulnerabilidades esperam encontrar à medida que continuam investigando.

Sam Altman não acredita que conseguiremos corrigir todos os bugs, enquanto Jason Clinton, da Anthropic, descreve a situação como um "tsunami de vulnerabilidades".

As empresas estão alertando que teremos anos de instabilidade pela frente, enquanto tentam descobrir e corrigir todas essas falhas. E esse será um processo contínuo, já que o próprio desenvolvimento de software exige atualizações constantes.

Mas por que estão falando dessa maneira? Elas enfatizam o quanto seus produtos são perigosos, mas também estão vendendo a solução para o problema que ajudaram a introduzir. E, para forçar essa necessidade, vão procurar as vulnerabilidades por conta própria.

Esse é o objetivo da iniciativa Patch the Planet, da OpenAI, dedicada a identificar defeitos e vulnerabilidades em softwares de código aberto. Mas as empresas não estão só procurando bugs e deixando o caos se instalar. Elas estão tentando entrar no mercado de segurança cibernética e se posicionar como a melhor solução para o problema.

Leia mais: Após OpenAI, modelos Claude também invadem empresas durante testes

E não estão fazendo isso de maneira discreta. Sam Altman disse a um grupo de estudantes de Stanford: "acho que teremos de mudar completamente o modelo de defesa e usar a mesma tecnologia para criar um novo tipo de escudo de proteção". Em outras palavras: você precisa usar meus produtos para se manter seguro.

O que elas estão fazendo beira a extorsão: tentam monetizar o caos que seus próprios produtos estão introduzindo. Além disso, estão mirando um ambiente digital que já é basicamente vulnerável.

AMEAÇA AO PATRIMÔNIO COLETIVO

Vamos dar um passo atrás e considerar como a internet – grande parte da qual funciona com softwares de código aberto – é realmente mantida.

O PHP é sustentado pela Fundação PHP, que tem pouco mais de uma dúzia de funcionários e depende de doações. Na prática, trata-se de um projeto mantido pela paixão de alguns desenvolvedores.

Há uma tirinha do Xkcd que ajuda bastante a entender essa situação: partes aleatórias e essenciais da infraestrutura digital são mantidas por pessoas que trabalham praticamente sozinhas, sem reconhecimento e, muitas vezes, sem receber nada por isso.

A internet aberta moderna foi construída de maneira improvisada, com a segurança frequentemente relegada a segundo plano. Mas isso tinha menos importância quando apenas seres humanos estavam desenvolvendo ou tentando invadir sistemas.

Explorar essas vulnerabilidades exigiria não apenas conhecimento especializado, mas também muito tempo, esforço e, em muitos casos, poder computacional.

As brechas exploradas pelo PHP2Shell eram difíceis de identificar, mesmo para quem realmente entendia do assunto e conhecia o PHP até o nível do código-fonte.

empresas de ia estão tentando entrar no mercado de segurança cibernética.

Sim, essas ameaças potenciais são graves. Mas não estamos diante de um tsunami ou de um desastre natural que simplesmente não poderia ter sido evitado.

Trata-se de uma situação inteiramente provocada por seres humanos, e aqueles que gritam mais alto sobre a gravidade da emergência são também os que ajudaram a inaugurá-la.

Essa vulnerabilidade permaneceu praticamente desconhecida por mais de uma década. Mesmo quando foi identificada pelo que realmente era, a ameaça continuava sendo puramente teórica. Agora, por causa da IA generativa, a segurança cibernética começa a favorecer os ataques em detrimento da defesa.

Leia mais: Pode não haver um segundo aviso

Pessoas como Sam Altman ajudaram a criar o problema, primeiro desenvolvendo os modelos e, agora, percorrendo a internet precária que construímos para procurar ativamente seus pontos fracos.

Elas quebraram tudo e agora aparecem oferecendo uma solução. "Que bela internet aberta você tem aí. Seria uma pena se alguma coisa acontecesse com ela."

A INTERNET LIVRE E ABERTA EM RISCO

Quais são os custos disso? Para os consumidores individuais, há o risco de invasões, roubos e instabilidade generalizada na internet. Para as empresas, interrupções de serviços, perda de receita e furtos de dados.

Isso já é grave. Mas acredito que exista um risco ainda mais fundamental para toda a internet, pelo menos como a conhecemos hoje.

Grupos como a Fundação PHP e os desenvolvedores individuais que sustentam os softwares livres e de código aberto vão enfrentar uma pressão ainda maior nos próximos anos, especialmente quando comparados a empresas como a Anthropic, que, pelo menos por enquanto, dispõem de recursos financeiros muito mais robustos.

esse esquema de extorsão que está se formando ameaça desestabilizar o ecossistema da internet como o conhecemos.

Aquelas 13 mil CVEs que mencionei no início? A responsabilidade por corrigir boa parte delas recai sobre voluntários e organizações sobrecarregadas. Isso pode levar essas pessoas à exaustão e, no longo prazo, afastá-las de todo o movimento do software livre e de código aberto.

Recorrer à IA generativa provavelmente é exatamente o que a Anthropic e outras empresas desejam, já que isso representa mais um caso de uso para seus produtos. Mas essa alternativa traz riscos graves próprios.

Os grandes modelos de linguagem (LLMs) já estão sendo utilizados em projetos de código aberto de maneiras que colocam em xeque toda a estrutura de licenciamento livre e o sistema de atribuição de autoria que tornaram possível o movimento do software livre. É mais uma das pernas do nosso banco sendo chutada.

Além disso, à medida que códigos gerados por IA forem incorporados a mais projetos de código aberto, será que eles vão introduzir novas vulnerabilidades que depois precisarão ser identificadas e eliminadas? A resposta parece ser sim.

Seja por causa do chamado vibe coding ou simplesmente porque os LLMs, treinados com códigos que contêm falhas de segurança, tendem a reproduzir essas mesmas vulnerabilidades, provavelmente passaremos anos correndo atrás do próprio rabo.

Mesmo que esses códigos possam ser incorporados sem comprometer a segurança dos próprios softwares, essa é mais uma maneira de corroer o sistema de licenciamento e o status de liberdade de uso e de direitos autorais que tornam possível o sistema de software livre e de código aberto.

Portanto, esse esquema de extorsão que está se formando é mais do que uma espécie de imposto. Ele ameaça desestabilizar profundamente o ecossistema da internet como o conhecemos.

O PAPEL DO PODER PÚBLICO

Não sei o que acontecerá se esse delicado ambiente de colaboração entrar em colapso. Os responsáveis pela manutenção dos projetos podem simplesmente abandoná-los, o que, por sua vez, criaria ainda mais vulnerabilidades de segurança à medida que os sistemas ficassem desatualizados e obsoletos.

Mesmo componentes de infraestrutura que funcionam de maneira estável acabarão deixando de ser compatíveis com as linguagens em que foram desenvolvidos. As pessoas poderão acordar um dia e descobrir que alguma dependência obscura, responsável pelo funcionamento de seus sites, parou de funcionar. Quem será responsável por consertá-la nesse momento?

Também não quero ver essa responsabilidade entregue a empresas com fins lucrativos. A manutenção desse trabalho já é, por natureza, pouco reconhecida. É uma atividade que não dá lucro porque sua própria razão de existir é permitir que todos utilizem esses recursos livremente.

A única razão para essas empresas assumirem essa tarefa no longo prazo seria monetizá-la, o que teria um custo para todos nós. E, à medida que transformassem esses recursos em sistemas proprietários, será que elas isolariam o que é delas de todo o resto?

Por que não fariam isso? A Microsoft passou anos combatendo o movimento do software livre porque enxergava os programas de código aberto como uma ameaça a seus sistemas protegidos por direitos autorais.

O que até agora foi um verdadeiro patrimônio coletivo, mantido por pessoas e organizações que, em grande parte, fazem esse trabalho por paixão, se transformaria em algo completamente diferente: um ambiente menos capaz de se comunicar e muito mais caro de utilizar.

Qual é a solução? Provavelmente esse assunto mereça outro artigo inteiro, mas, no longo prazo, ela terá de vir dos governos. É necessário que os governos adotem medidas para garantir que uma internet aberta e livre continue existindo.

É algo para refletir, porque, sob a sombra de todos esses ataques cibernéticos assustadores, acredito que seja aí que reside a verdadeira ameaça.

---

SOBRE O AUTOR

Zeb Larson é historiador e escritor. saiba mais

---