A IA não precisa ser superinteligente para ser perigosa
Sistemas de IA disponíveis hoje já conseguem manipular pessoas, invadir sistemas e ampliar ataques em uma escala difícil de combater
Estamos vivendo um momento de ansiedade em relação à IA, atormentados pelos problemas complexos e exaustivos provocados pelas capacidades cada vez maiores dessa tecnologia.
O que faremos quando a IA lançar ciberataques em massa que possam ter como alvo um governo, ou desestabilizar o mercado acionário global? Precisamos de um botão de desligamento de emergência para garantir que os sistemas de IA não possam dominar o mundo?
Construir um mecanismo desses é sequer possível? Devemos aceitar a possibilidade de que a IA possa se tornar uma espécie pós-humana destinada a herdar a Terra? A inteligência artificial poderia acabar com todos nós?
Essas questões já saíram dos círculos do Vale do Silício, onde são levantadas até pelos próprios executivos de IA que estão desenvolvendo essa tecnologia, e chegaram à mídia convencional.
Enquanto isso, os céticos continuam questionando o poder da tecnologia ou descartando toda essa preocupação como puro exagero de marketing – uma tentativa de impulsionar o preço futuro das ações e influenciar a regulamentação, disfarçada sob a linguagem de uma ameaça existencial.
Mas descartar a possibilidade de modelos cada vez mais poderosos e do que eles poderão ser capazes de fazer no futuro pode nos distrair daquilo que já sabemos: a IA não precisa se tornar superinteligente, consciente ou sequer especialmente confiável para ser perigosa.
Os sistemas que já temos – a IA de segunda linha com a qual já convivemos – são suficientemente capazes de causar danos graves, especialmente quando podem ser implantados de forma barata, repetida e em uma escala gigantesca.
Já sabemos que a IA pode manipular pessoas, invadir sistemas e mentir para nós.
Considere algumas das tarefas que a IA disponível publicamente está possibilitando. Há o Grok, que foi usado para disseminar imagens sexuais não consensuais de menores e material de abuso sexual infantil gerado por IA.
Há o ChatGPT, que aparentemente convenceu pessoas a praticar automutilação ou algo pior e chegou a orientar pessoas sobre como realizar atos violentos, incluindo ataques a escolas. Outro chatbot incentivou um homem no Reino Unido em uma tentativa de assassinato.
Há ainda a democratização mais ampla dos ciberataques: a Anthropic, por exemplo, informou que uma única pessoa conseguiu usar o Claude para atacar partidos políticos europeus e outras organizações, acessando 14 instituições e mais de 100 mil perfis políticos.
Esta semana, soubemos que hackers chineses usaram IA para realizar um esquema de falsificação de identidade que envolvia buscar informações sobre especialistas norte-americanos em políticas de inteligência artificial.
Isso sem mencionar que agora sabemos que a IA pode escapar de ambientes de teste e chegar ao mundo real, como demonstrou o incidente envolvendo a Hugging Face e uma violação de segurança relacionada à IA que ocorreu posteriormente.
Alguns desses agentes já demonstraram uma tendência a interagir com sites governamentais e chegaram a descobrir maneiras de ocultar suas intenções.
A IA possibilitou cyberbullying com deepfakes e permitiu que pessoas desenvolvessem armas controladas por voz. Recentemente, um grande banco da Itália foi vítima de um golpe que lhe custou o equivalente a US$ 100 milhões devido ao uso de IA.
Leia mais: É superinteligência ou inteligência artificial? Os chineses não se importam
A IA projetou compostos tóxicos capazes de escapar justamente dos mecanismos de detecção criados para impedir que esses bots compartilhassem esse tipo de fórmula.
A tecnologia também foi usada para gerar uma lista com dezenas de milhares de possíveis armas biológicas. Grupos rebeldes no Iêmen parecem ter usado a tecnologia para desenvolver softwares de orientação de mísseis.
Já sabemos que a IA pode manipular pessoas, invadir sistemas e mentir para nós. A IA não precisa ser particularmente superinteligente – nem sequer estar pensando ou desejando algo no sentido humano – para causar danos, e esses danos tampouco precisam ser existenciais para serem potencialmente desestabilizadores.
Para fazer o mal, a IA só precisa ser boa o bastante para causar danos, às vezes. Isso acontece porque a IA pode ser reproduzida repetidamente e em escala, sobrecarregando qualquer capacidade que tenhamos de combatê-la.
Você não precisa saber se a IA se tornará superinteligente para saber se deve ou não ter medo. Deve.
