Alibaba lança IA com barreiras contra ataques cibernéticos

Lançamento ocorre em meio à preocupação com o uso de ferramentas de IA por criminosos digitais

Chip de IA
Alibaba aposta em mecanismos de segurança para reduzir riscos associados ao uso de IA. (Créditos: Pexels)

Lilian Campos 2 minutos de leitura
Favoritar no Google

A Alibaba lançou o Qwen4-Max, seu novo modelo de inteligência artificial, com mecanismos de segurança voltados a reduzir riscos de uso da tecnologia em ataques cibernéticos e outras atividades perigosas. 

A novidade combina avanços em tarefas profissionais e científicas com filtros para limitar a geração de conteúdos que possam facilitar ações maliciosas.

Segundo o Qwen, o modelo foi desenvolvido para identificar e corrigir vulnerabilidades de software, mas restringe conhecimentos que poderiam aprimorar técnicas de invasão e ataques digitais.

Leia também: A IA facilita criar software. Manter tudo funcionando é outra história

COMO FUNCIONAM AS BARREIRAS DE SEGURANÇA?

Uma das mudanças está na seleção dos dados utilizados durante o treinamento. A Alibaba afirmou que o Qwen4-Max mantém informações relacionadas à defesa cibernética, como identificação, verificação e correção de falhas, enquanto exclui materiais voltados ao desenvolvimento de capacidades ofensivas de invasão.

A empresa também incorporou verificações de segurança aos testes de programação. O objetivo é reduzir vulnerabilidades no código que a IA cria, incluindo ataques de injeção, falhas de segurança de memória e falhas no controle de acesso.

Em avaliações internas, o modelo alcançou 14,7% em um indicador de geração de código seguro, acima dos 8% registrados pela versão anterior. A Alibaba também reforçou proteções contra solicitações relacionadas a ameaças químicas, biológicas, radiológicas e nucleares.

QWEN4-MAX TAMBÉM TEM 2,4 TRILHÕES DE PARÂMETROS

Além dos mecanismos de segurança, o modelo chega com uma arquitetura de 2,4 trilhões de parâmetros. Segundo a empresa, ele supera o antecessor, Qwen3.8-Max, em tarefas complexas e utiliza menos tokens para executar determinadas atividades.

Segundo os testes internos da companhia, o custo médio por tarefa caiu cerca de 60% em comparação com a versão anterior. A tecnologia também atende aplicações em áreas como modelagem 3D, desenvolvimento de jogos, manufatura, finanças, direito, saúde e pesquisa científica.

Leia também: Os hackers chegaram nas geladeiras. E isso é um problema mundial

MODELO NÃO TERÁ CÓDIGO ABERTO INICIALMENTE

Apesar de a família Qwen ser conhecida pela oferta de modelos com pesos abertos, o Qwen4-Max não foi disponibilizado nesse formato. Isso significa que desenvolvedores não podem baixar e modificar livremente seus parâmetros.

A Alibaba informou que pretende lançar versões menores da família Qwen4 com pesos abertos, permitindo que desenvolvedores de diferentes países adaptem os sistemas às próprias aplicações.

A iniciativa ocorre em meio à preocupação crescente com o uso de ferramentas de inteligência artificial para ataques digitais. Outras empresas chinesas, como Tencent e Moonshot AI, também anunciaram restrições às capacidades de invasão de seus modelos.


SOBRE A AUTORA

Lilian Campos é jornalista colaboradora da Fast Company Brasil. saiba mais