Outra carta aberta sobre os perigos da IA. Desta vez alguém vai ouvir?
Ou será que esses apelos estão perdendo força?
Membros atuais e ex-funcionários de diversas empresas de tecnologia emitiram um alerta sobre a crescente imprudência e sigilo de alguns dos maiores desenvolvedores de IA do mundo.
De acordo com os signatários da carta “Right to Warn” (direito de alertar), que inclui membros da OpenAI, Google DeepMind e Anthropic, o objetivo é garantir que o público esteja ciente dos riscos que um setor tecnológico cada vez mais precipitado representa.
A carta reforça mensagens semelhantes a de outras já publicadas. Ela alerta sobre o risco do desenvolvimento descontrolado de IA (como na carta assinada por Elon Musk e outros), argumenta que é uma força para o bem da humanidade (reiterando a mensagem da entidade do setor de TI do Reino Unido), além de pedir um tratado internacional sobre inteligência artificial e que os direitos autorais sejam respeitados.
“Parte do motivo pelo qual estamos vendo mais dessas cartas abertas é que várias organizações de IA estão muito focadas em missões, falando sobre mudar o mundo”, explica Andrew Brodsky, professor assistente de gestão da McCombs School of Business, da Universidade do Texas, e estudioso da comunicação no local de trabalho.
“De repente, quando acontece algo que viola as expectativas sobre o que a organização deveria fazer, os funcionários tendem a reagir”, diz ele. “E uma das principais formas é fazer declarações públicas para que a organização retorne à sua missão.”
Quando se tem uma quantidade de cartas abertas publicadas, muitas se perdem porque as pessoas não conseguem prestar atenção em todas.
Este parece ser o caso da carta desta semana. Ela foi criada para tentar fazer com que corrijam o curso, alertando que o status quo atual dentro da OpenAI pode ser bastante prejudicial.
E, até certo ponto, funcionou. Como muitas outras, a mensagem ganhou destaque na mídia mundial. Mas será que, com o grande volume de cartas abertas, este tipo de apelo pode estar perdendo força?
De fato, o cansaço em relação a elas é real. “Não assinei algumas que são muito relevantes e com as quais concordo”, conta Margaret Mitchell, da Hugging Face, uma empresa de IA. “Acho que ‘cansaço’ é a palavra certa. Também tenho a sensação de que elas estão se tornando algo banal.”
No entanto, Mitchell diz que a carta mais recente é diferente das anteriores, pois aborda algo de vital importância – a responsabilidade dentro das empresas que lideram a atual revolução da inteligência artificial generativa. E, ao contrário de muitas outras, ela evita declarações vagas que surgem devido ao fato de o texto ser criado em conjunto.
“Reunir um monte de pessoas para assinar algo esbarra no fato de que haverá fortes discordâncias sobre o que elas estariam confortáveis em assinar, levando a uma linguagem vaga”, explica Mitchell. “Não vejo a mensagem da carta da OpenAI como particularmente fraca.” Para ela, há uma preocupação legítima de “trabalhadores da tecnologia que estão em uma posição inferior na escala de poder”.
Não é como se cartas abertas não tivessem funcionado na OpenAI antes. Afinal, seu CEO, Sam Altman, recuperou o cargo após ter sido demitido, em novembro de 2023, depois que uma carta aberta com centenas de assinaturas de funcionários foi enviada ao conselho da empresa.
Mensagens coletivas podem ser poderosas. O problema é que esta está lutando para ser ouvida em meio a uma enxurrada de outras. “Quando se tem uma enorme quantidade de cartas abertas sendo publicadas, muitas se perdem porque as pessoas não conseguem prestar atenção em todas”, observa Brodsky.
No entanto, Mitchell tem esperança de que, desta vez, as coisas sejam diferentes. “Esta carta aberta está alinhada com a tradição na tecnologia de botar preto no branco e compartilhar amplamente uma mensagem com o mundo, como um pedido de ajuda”, diz ela. “Às vezes, é a única coisa que você pode fazer quando já esgotou todas as outras vias para mudar uma situação terrível.”
