Debate sobre a governança da IA provoca divisão no Vale do Silício
A controvérsia na liderança da OpenAI é o capítulo mais recente do debate entre tecnocratas da IA, que priorizam a segurança, e “tecno-otimistas” libertários
As tensões de longa data dentro da OpenAI sobre questões de segurança relacionadas à implementação de grandes modelos de linguagem, como o GPT (motor por trás do ChatGPT e do DALL-E), vieram à tona na última sexta-feira (17de novembro), quando o conselho de administração da organização sem fins lucrativos votou pela demissão do então CEO Sam Altman. Em um breve post no blog da empresa, o conselho afirmou que ele não havia sido “consistentemente sincero em suas comunicações”.
Mas a OpenAI não é o único campo de batalha no Vale do Silício, onde as disputas sobre a segurança da IA se transformaram em uma guerra total. No Twitter, dois grupos se destacam: os tecnocratas, que priorizam a segurança, liderados por empresas de capital de risco como a General Catalyst em parceria com a Casa Branca; e os autodenominados “tecno-otimistas”, liderados por empresas com inclinações libertárias como a Andreessen Horowitz.
Os tecnocratas acreditam que a melhor maneira de aproveitar o poder da IA é através da colaboração interdisciplinar.
Os tecnocratas estão comprometidos com a segurança, formando comitês e criando organizações sem fins lucrativos. Eles reconhecem o poder da IA e acreditam que a melhor maneira de aproveitá-la é através da colaboração interdisciplinar.
Hemant Taneja, CEO e diretor administrativo da General Catalyst, anunciou recentemente que liderou mais de 35 empresas de capital de risco e 15 organizações para assinar um conjunto de compromissos de “IA responsável” elaborados pela Responsible Innovation Labs, organização sem fins lucrativos que ele cofundou. O grupo também publicou um protocolo de 15 páginas, descrito por Taneja no X/ Twitter como um “guia prático”.
Today, 35+ VC firms, with another 15+ companies, representing hundreds of billions in capital have signed the voluntary Responsible AI commitments from @ResponsibleLabs (RIL), the non-profit I co-founded. As Chairman of RIL, I’m proud to unveil this today with tech leaders and…
— Hemant Taneja (@htaneja) November 14, 2023
O tuíte, porém, foi rapidamente criticado. Praying for Exits, uma conta de memes e investimentos do Vale do Silício, postou uma captura de tela de mensagens entre um pesquisador de IA chamado Rohan Pandey e um investidor da Insight Partners, que também assinou os compromissos de IA responsável, na qual Pandey cancelava a próxima reunião, afirmando que os compromissos “colocariam em risco a pesquisa de IA de código aberto e contribuiriam para a captura regulatória”.
Enquanto isso, os tecno-otimistas fazem alarde via Twitter, podcasts e publicações em blogs. Eles reconhecem o poder da IA e acreditam que os empreendedores – e não os legisladores – são os mais bem equipados para tornar a tecnologia uma força para o bem.
“Quero construir um agente de IA que eu possa oferecer aos meus filhos”, tuitou Joscha Bach, pesquisador de IA e cientista cognitivo. “É a mesma IA que quero construir para mim. Ela vai conversar comigo, se juntar a mim, ser uma extensão de mim. Vai se encaixar como uma luva em minha mente, e você também vai querer uma.”
O investidor de risco Marc Andreessen respondeu apenas com um emoji ao tuíte, concordando com a declaração.
REGULAMENTAÇÃO EM PAUTA
Os tecno-otimistas têm estado agitados desde que o presidente dos EUA, Joe Biden, emitiu uma ordem executiva sobre o “Desenvolvimento e Uso Seguros, Protegidos e Confiáveis da Inteligência Artificial” no final de outubro.
Na Europa, as negociações sobre uma Lei da IA continuam em curso, com o debate centrado na questão da regulação direta de modelos fundamentais, em oposição à regulamentação dos danos ao consumidor.
os tecno-otimistas acreditam que os empreendedores são os mais bem equipados para tornar a tecnologia uma força para o bem.
“Não se enganem, os legisladores veem a batalha da IA como uma oportunidade de reavaliar a regulamentação de tecnologia de forma mais ampla”, tuitou Martin Casado, sócio-gerente da Andreessen Horowitz. “É absolutamente imperativo que não deixemos que isso aconteça.”
À medida que as notícias sobre a saída de Altman e a subsequente renúncia do presidente do conselho da OpenAI, Greg Brockman, se espalhavam, os tecno-otimistas não perderam tempo em atribuir rótulos de herói e vilão aos envolvidos.
“Não sei o que o conselho viu. Olhando de fora, é difícil argumentar que há um melhor executivo de IA do que Sam”, tuitou Vin Sachidananda, investidor da Two Sigma. “Além disso, dados os desafios inerentes ao desenvolvimento dessas tecnologias, parece estranho que metade do conselho seja composta por pessoas de ‘governança de IA’ que nunca construíram coisas.”
Quanto à posição de Altman no debate, ele tem feito muito alarmismo sobre a inteligência artificial geral (IAG), algo que desagrada aos tecno-otimistas. Mas, ao mesmo tempo, fez pressão para implantar e comercializar IA rapidamente, levando uma tecnologia que era antes privilégio de poucos para o grande público – uma vitória para esses mesmos defensores irrestritos. Além disso, agora Altman é vítima da burocracia (embora tenha sido ele mesmo quem a criou).
Independentemente do que ele diz ou faz, como uma liderança em IA, ambos os lados vão tentar associá-lo a si – e o debate continuará.
