Anthropic quer desacelerar a corrida da IA; veja o plano do CEO
Dario Amodei defende mudanças na corrida da IA e sugere novas regras de segurança para empresas
O avanço acelerado da inteligência artificial voltou a levantar discussões sobre segurança, controle e os limites para o desenvolvimento de modelos cada vez mais capazes.
Nesse cenário, o CEO da Anthropic, Dario Amodei, defendeu uma mudança na velocidade da corrida tecnológica.
Segundo o TechCrunch, Amodei publicou um texto no qual pede que as empresas reduzam o ritmo de evolução dos modelos de IA. O executivo apresentou três estratégias para tentar tornar esse processo mais controlado.
Leia também: O alerta sobre IA que fez um pesquisador deixar a Anthropic
EMPRESAS DEVEM DIMINUIR O RITMO DA IA
Amodei afirmou que as empresas precisam desacelerar o ritmo de melhoria das capacidades dos modelos. Para ele, o avanço recente da tecnologia, especialmente a capacidade de ajudar a construir novas gerações de IA, exige uma postura mais cuidadosa.
O CEO citou dois acontecimentos que contribuíram para sua posição: o ataque envolvendo OpenAI e Hugging Face e a velocidade com que a inteligência artificial avançou nos últimos meses.
AVALIADORES EXTERNOS TERIAM ACESSO ÀS EMPRESAS
A primeira proposta prevê a presença de avaliadores independentes dentro das empresas de IA. Amodei citou organizações como a METR, que poderiam verificar se as companhias cumprem compromissos de segurança e de controle do ritmo de desenvolvimento.
Esses avaliadores teriam acesso semelhante ao das equipes internas de avaliação de riscos e também ajudariam a garantir que os incidentes de segurança fossem registrados. A Anthropic afirmou que adotará essa medida por conta própria.
Leia também: Anthropic diz que nova IA é “poderosa demais” para o público após testes
EMPRESAS DEVERIAM CRIAR PADRÕES DE SEGURANÇA
A segunda estratégia envolve uma coordenação entre empresas de IA de países democráticos. A proposta prevê padrões comuns de segurança e limites para a velocidade de avanços considerados não controlados.
Amodei também defendeu que o governo dos Estados Unidos facilite essas conversas, inclusive por meio de uma autorização específica para evitar problemas relacionados às regras antitruste.
PLANO TAMBÉM ENVOLVE CHINA
A terceira proposta prevê uma coordenação internacional entre Estados Unidos, aliados e governos autoritários. Amodei citou a China e reconheceu que existem limites importantes para esse tipo de acordo.
Ainda assim, o CEO sugeriu que os países poderiam negociar restrições para usos considerados claramente perigosos, como a utilização de IA na produção de armas biológicas.
OUTROS CEOS TAMBÉM DEFENDEM DESACELERAÇÃO
A proposta de Amodei não surgiu de forma isolada. Segundo o The Guardian, outros líderes importantes do setor também passaram a defender uma abordagem mais cautelosa para o avanço da inteligência artificial.
O CEO da OpenAI, Sam Altman, já havia afirmado que pode ser necessário desacelerar o desenvolvimento da IA para dar tempo à sociedade de se adaptar às novas capacidades dos modelos. Após a publicação de Amodei, Altman voltou a apoiar a ideia.
O movimento também recebeu apoio de Demis Hassabis, CEO do Google DeepMind, e de Elon Musk, fundador da xAI. Dessa forma, a discussão sobre controlar o ritmo da evolução da IA passou a envolver diferentes empresas que disputam a liderança no setor.
A preocupação ganhou força diante de alertas sobre os riscos de sistemas cada vez mais autônomos e capazes.
