4 cenários de apocalipse da IA que preocupam pesquisadores
Especialistas discutem cenários que vão de guerras nucleares e armas biológicas a uma IA que escaparia do controle humano
Durante anos, pesquisadores de inteligência artificial alertaram para maneiras pelas quais a tecnologia poderia acabar com a humanidade: robôs de IA poderiam criar uma doença impossível de deter, desencadear uma guerra nuclear ou transformar toda a Terra em fábricas de clipes de papel, como propõe um experimento mental.
Os debates dentro da indústria de IA e fora dela sobre a plausibilidade desses cenários apocalípticos se intensificaram desde que vários executivos defenderam a desaceleração do desenvolvimento da tecnologia por razões de segurança.
Apesar dos alertas sobre o potencial de os seres humanos perderem o controle da tecnologia, alguns suspeitam que os piores cenários descritos pelas próprias empresas de IA tenham mais a ver com validar a importância de seu trabalho do que com a realidade.
“Esses argumentos simplesmente não se sustentam. Acho que são ficção científica e atraem um certo estilo infantil de pensamento. Eles são muito tentadores para os laboratórios de fronteira porque ajudam a recrutar determinados tipos de profissionais”, afirmou Juan Andrés Guerrero-Saade, pesquisador da empresa de cibersegurança SentinelOne e integrante do Frontier Risk Council (Conselho de Riscos de Fronteira) da OpenAI.
Ainda assim, cada vez mais pessoas começam a se preocupar com os riscos da tecnologia que deslumbrou o mundo com suas capacidades extraordinárias.
Jacob Coxon, pesquisador da Anthropic que deixou a empresa por preocupações de que ela e suas concorrentes não estejam agindo de maneira responsável no desenvolvimento da IA, afirmou recentemente no X que precisa “trabalhar” para comunicar de maneira mais eficaz exatamente como a IA poderia acabar com a humanidade. “Infelizmente, é muito difícil transmitir cenários específicos”, escreveu ele no início deste mês.
Confira alguns dos cenários apocalípticos mais discutidos.
INVERNO NUCLEAR
Pesquisadores especulam há muito tempo que sistemas de IA poderiam desencadear uma guerra nuclear levando países a lançar uns contra os outros mísseis equipados com ogivas nucleares.
As explosões nucleares e a consequente permanência de material radioativo na atmosfera, resultando em um “inverno nuclear”, poderiam devastar a vida na Terra.
Em um relatório publicado no ano passado, pesquisadores da RAND Corp. concluíram que, “no momento”, não seria possível para a IA provocar o uso de armas nucleares “por causa das rígidas salvaguardas incorporadas aos sistemas de comando e controle”.
No entanto, o relatório afirmou que isso poderia mudar se modelos de IA fossem integrados à “cadeia de decisão” das armas nucleares ou obtivessem acesso não autorizado a esses sistemas.
Para muitos pesquisadores de IA, é aí que está o perigo: não em agentes de IA decidindo de repente acabar com a humanidade, mas em pessoas, nações ou grupos usando a tecnologia para eliminar seus adversários.
ARMAS BIOLÓGICAS
Uma das maiores promessas da IA é ajudar os seres humanos a desenvolver tratamentos e curas para doenças. O outro lado da moeda é criá-las ou aprimorá-las para causar danos à humanidade.
No início deste mês, a Anthropic afirmou ter bloqueado tentativas de agentes mal-intencionados de usar sua IA para uma série de atividades maliciosas, como ciberataques, vigilância e pesquisas que poderiam levar ao desenvolvimento de armas biológicas.
Em um caso, a Anthropic disse que seus sistemas bloquearam um pedido de assistência feito à sua ferramenta Claude para uma proposta de pesquisa que buscava aprimorar mutações para tornar progressivamente mais nocivo o vírus chikungunya, transmitido por mosquitos.
Embora esse tipo de pesquisa pudesse ser usado para desenvolver vacinas e tratamentos melhores, afirmou a Anthropic, “também poderia ser usado para tornar o patógeno mais perigoso”.
Na mesma linha, o relatório da RAND observou que os avanços recentes no desenvolvimento da IA “têm potencial para transformar o projeto de patógenos sintéticos”.
Ao descrever um cenário apocalíptico envolvendo armas biológicas, o relatório afirmou que novos patógenos poderiam ser criados em laboratório, levados a locais específicos e disseminados para infectar grandes populações em vários lugares. Mas o cenário ainda previa seres humanos, e não uma IA autônoma, supervisionando e executando um ataque desse tipo.
IA FORA DE CONTROLE
Alguns pesquisadores de IA temem que um evento de extinção humana possa resultar do chamado “desalinhamento”, que é quando modelos de IA agem sem autorização humana, coordenam-se com outros modelos ou escapam da supervisão.
Isso não aconteceria por uma intenção maliciosa – afinal, a IA não é humana, nem boa ou má –, mas simplesmente porque os seres humanos poderiam atrapalhar o modelo na realização de seu objetivo.
Considere o experimento mental do “maximizador de clipes de papel”, criado décadas atrás pelo filósofo da Universidade de Oxford Nick Bostrom.
Ele propõe que, se uma IA avançada recebesse a instrução de produzir o maior número possível de clipes de papel, poderia acabar transformando toda a Terra e, depois, porções cada vez maiores do espaço em fábricas de clipes de papel.
A ideia serve para ilustrar como uma IA superinteligente – frequentemente chamada de inteligência artificial geral, ou IAG – poderia perseguir um objetivo que os seres humanos consideram desejável, mas que “na verdade acaba se revelando uma falsa utopia, na qual coisas essenciais para a prosperidade humana foram perdidas de maneira irreversível”, escreveu Bostrom em 2003.
DOMÍNIO DA INTERNET PELA IA
Diante do ritmo de desenvolvimento da IA, o CEO da Anthropic, Dario Amodei, alertou que, dentro de alguns meses, um enxame de agentes de IA poderia ser capaz de “assumir o controle” da internet por meio de uma botnet (uma rede de bots conectados por malware), potencialmente causando bilhões de dólares em prejuízos.
Isso poderia significar invasões a redes elétricas, sistemas de água e transporte e instituições financeiras – ataques que talvez não significassem o fim da humanidade, mas poderiam provocar caos e mortes.
As interrupções provocadas por falhas de software no passado já destacaram a fragilidade de um mundo digitalizado que depende de poucos provedores para serviços essenciais de computação. Modelos de IA mais poderosos levantaram preocupações sobre vulnerabilidades a ciberataques.
Mas alguns especialistas afirmam que a ideia de bots assumirem o controle de toda a internet, extremamente fragmentada, é pouco plausível.
