IAs podem se espalhar sozinhas e chegar até às TVs, alerta Anthropic
Empresa responsável pelo Claude alerta que o avanço da IA pode facilitar a criação de ameaças capazes de se replicar entre dispositivos
Os modelos de inteligência artificial podem estar a poucos meses de conseguir se replicar e se espalhar autonomamente por aparelhos conectados à internet, como TVs, câmeras de segurança e eletrodomésticos inteligentes.
O alerta foi publicado pela Anthropic, empresa responsável pela família de modelos Claude, após testes sobre a capacidade de sistemas menores executarem etapas necessárias para a própria replicação.
Segundo a pesquisa, esse tipo de ameaça poderia transformar dispositivos domésticos com pouca proteção em pontos de uma rede de programas maliciosos. A empresa ressalta, porém, que os experimentos não demonstraram um sistema completamente autônomo capaz de se espalhar livremente pela internet.
Leia também: O alerta sobre IA que fez um pesquisador deixar a Anthropic
COMO UMA IA PODERIA SE ESPALHAR ENTRE DISPOSITIVOS
A Anthropic investiga um cenário chamado replicação e adaptação autônomas, no qual um modelo consegue encontrar novos dispositivos, preparar sua execução neles e continuar o processo sem depender de uma pessoa a cada etapa.
Esse comportamento lembra os chamados worms, ou vermes digitais: programas maliciosos que se copiam de um computador para outro. A diferença é que agentes de IA poderiam analisar aparelhos desconhecidos, adaptar suas estratégias e tentar superar obstáculos durante a propagação.
De acordo com a pesquisa, modelos com até 30 bilhões de parâmetros já conseguem realizar várias etapas desse processo separadamente, embora ainda cometam erros ao combinar todas elas.
Os pesquisadores estimam que, se o avanço continuar no ritmo observado, modelos menores poderão alcançar essa capacidade até o fim de 2026.
TESTES USARAM TV BOXES E AMBIENTES CONTROLADOS
Para avaliar os riscos, os pesquisadores executaram o modelo Gemma4-26B-A4B de forma distribuída em 15 TV boxes Android de baixo custo, cada uma com 4 GB de memória RAM. O experimento mostrou que aparelhos acessíveis podem fornecer capacidade computacional para executar modelos de IA quando trabalham em conjunto.
Em testes separados, a equipe avaliou a capacidade de agentes de IA coordenarem etapas de replicação entre máquinas virtuais. O modelo GLM-5.2 conseguiu concluir o processo experimental de ponta a ponta em condições simplificadas.
No entanto, os pesquisadores não demonstraram uma IA que invadiu televisores de consumidores e se espalhou pela internet sem intervenção humana. A pesquisa concentrou parte dos testes na execução de modelos e na coordenação da replicação, enquanto simplificou etapas de invasão de dispositivos.
FALTA DE SEGURANÇA PODE AUMENTAR OS RISCOS
A Anthropic destaca que aparelhos conectados à internet, como TV boxes de fabricantes pouco conhecidos, podem apresentar proteções limitadas e atualizações de segurança irregulares.
Por isso, esses equipamentos poderiam se tornar alvos de ataques que tentassem aproveitar sua capacidade de processamento.
Outro desafio seria conter uma ameaça distribuída por muitos aparelhos. Diferentemente de um programa que depende de um único servidor central, um sistema replicado entre diversos dispositivos poderia continuar funcionando mesmo após a interrupção de alguns pontos da rede.
A empresa recomenda fortalecer a segurança desses equipamentos e preparar defesas para possíveis ameaças futuras. Para os usuários, manter o firmware atualizado, trocar senhas padrão, desativar serviços desnecessários e evitar dispositivos de procedência duvidosa são medidas importantes.
