Especialista explica como funciona o modelo híbrido de gestão da OpenAI
No final de novembro, o conselho da OpenAI, criadora das ferramentas de inteligência artificial ChatGPT e DALL-E, demitiu Sam Altman, seu CEO.
O caos se instaurou quando investidores e funcionários se rebelaram. Cinco dias depois, após a confusão passar, Altman retornou triunfalmente à OpenAI em meio à euforia da equipe. Três membros do conselho que pediram sua destituição renunciaram.
A estrutura do conselho – um conselho administrativo sem fins lucrativos que supervisiona uma subsidiária com fins lucrativos – parece ter desempenhado um papel importante no episódio.
GOVERNANÇA HÍBRIDA
Altman cofundou a OpenAI em 2015 como uma organização sem fins lucrativos, isenta de impostos, com a missão de “construir uma inteligência artificial geral (IAG) segura e benéfica para toda a humanidade”.
Os conselhos sem fins lucrativos têm três deveres principais: obediência, cuidado e lealdade.
Para levantar mais capital do que seria possível por meio de doações, a empresa criou uma holding que lhe permite captar investimentos para uma subsidiária com fins lucrativos.
Os líderes da OpenAI optaram por essa estrutura de “governança híbrida” para que a companhia permaneça fiel à sua missão social, ao mesmo tempo em que aproveita o poder dos mercados para expandir suas operações e receitas.
Unir lucro e propósito possibilitou que ela arrecadasse bilhões de investidores em busca de retorno financeiro, equilibrando “comercialidade com segurança e sustentabilidade, em vez de focar na pura maximização de lucros”, conforme explicado em seu site.
Os principais investidores têm uma grande participação no sucesso das operações, especialmente a Microsoft, que possui 49% da subsidiária com fins lucrativos da OpenAI. Mas não têm direito a assentos no conselho, como teriam em corporações típicas.
O lucro é limitado a aproximadamente 100 vezes o valor investido inicialmente. Essa estrutura exige que a OpenAI volte a ser uma organização sem fins lucrativos uma vez que esse ponto seja alcançado.
O modelo foi projetado para evitar que a empresa se afaste de seu propósito de beneficiar a humanidade de maneira segura e para evitar comprometer sua missão ao buscar lucros a qualquer preço.
ORIGEM DO CONFLITO COM ALTMAN
A principal responsabilidade de um conselho sem fins lucrativos é garantir que a missão da organização que ele supervisiona seja mantida. Em modelos de governança híbrida, o conselho deve garantir que as pressões do mercado para gerar lucro para investidores e acionistas não sobreponham a missão da empresa – um risco conhecido como desvio de missão.
Os conselhos sem fins lucrativos têm três deveres principais: obediência, que os obriga a agir de acordo com os interesses da missão da organização; cuidado, que exige que exerçam diligência na tomada de decisões; e lealdade, que os compromete a evitar conflitos de interesse.
Unir lucro e propósito possibilitou que a OpenAI arrecadasse bilhões de investidores em busca de retorno financeiro.
Parece que o conselho da OpenAI buscou exercer o dever de obediência quando decidiu demitir Altman. A razão oficial apresentada foi que ele “não foi consistentemente franco em suas comunicações”. As justificativas adicionais levantadas anonimamente por pessoas identificadas como “ex-funcionários preocupados” não foram verificadas.
Além disso, Helen Toner, membro do conselho que deixou seu cargo em meio ao tumulto, foi coautora de um artigo apenas um mês antes da tentativa fracassada de destituir Altman. Toner e seus coautores elogiaram as precauções da Anthropic e criticaram o modelo de desenvolvimento da OpenAI.
MISSÃO VERSUS DINHEIRO
Esta não foi a primeira tentativa de destituir Altman sob a alegação de que ele estava se afastando da missão da empresa. Em 2021, o chefe de segurança de IA, Dario Amodei, tentou persuadir o conselho a demiti-lo por questões de segurança, logo após a Microsoft investir US$ 1 bilhão na empresa. Ele deixou a OpenAI, junto com alguns outros pesquisadores, e fundou a Anthropic.
O cabo de guerra entre missão e lucro é talvez mais bem personificado na figura de Ilya Sutskever, cofundador da OpenAI, cientista-chefe e um dos três membros do conselho que foram forçados a sair ou renunciaram.
Sutskever inicialmente defendeu a decisão de destituir Altman sob o argumento de que era necessário para proteger a missão de tornar a IA benéfica para a humanidade. Mas depois mudou de ideia, tuitando: “lamento profundamente minha participação nas ações do conselho”. Mais tarde, assinou a carta dos funcionários pedindo a reintegração de Altman e permanece no cargo de cientista-chefe.
CONFLITOS DE INTERESSE
O terceiro dever – lealdade – está condicionado à presença de conflitos de interesse entre os membros do conselho. Geralmente, os membros de um conselho sem fins lucrativos não recebem remuneração, e aqueles que não desempenham funções na organização não têm envolvimento financeiro com ela. Os CEOs prestam contas aos conselhos, que têm autoridade para contratá-los e demiti-los.
A principal responsabilidade de um conselho sem fins lucrativos é garantir que a missão da organização seja mantida.
No entanto, até a recente reestruturação da OpenAI, três dos seis membros eram executivos remunerados – o CEO, o cientista-chefe e o presidente da subsidiária com fins lucrativos.
Não chega a ser surpresa que, enquanto os membros independentes do conselho votaram a favor da destituição de Altman, todos os executivos remunerados o apoiaram. Receber salário de uma entidade que deveria ser supervisionada é considerado um conflito de interesse no mundo das organizações sem fins lucrativos.
A indústria de tecnologia é dominada por gigantes como Microsoft, Meta e Alphabet – grandes corporações com fins lucrativos, e não organizações orientadas por missões. Dada a gravidade da situação, acredito que são necessárias regulamentações rigorosas. Deixar a governança nas mãos dos criadores de IA não resolverá o problema.
Este artigo foi republicado do The Conversation sob licença Creative Commons. Leia o artigo original.
