Quem é Christopher Olah? Bilionário discursou sobre IA ao lado do Papa
Enquanto a inteligência artificial ameaça transformar a sociedade, o líder da Igreja Católica se reuniu com um autoproclamado ateu para confrontar "a gravidade do momento"
No final de abril, o Papa Leão XIV fez história ao se tornar o primeiro papa a apresentar pessoalmente aos seus fiéis uma encíclica, uma carta de grande importância na qual o pontífice explica seus pontos de vista sobre um grande desafio moral ou social enfrentado pelo mundo.
O líder da Igreja Católica, no entanto, não fez isso sozinho. Ele teve ajuda para divulgar a encíclica "Magnifica humanitas: sobre a salvaguarda da pessoa humana na era da inteligência artificial". O cofundador da Anthropic e ateu autodeclarado, Christopher Olah, também estava presente.
UM PALESTRANTE IMPROVÁVEL
O Vaticano normalmente não convida pessoas de fora para discursar, muito menos da indústria de tecnologia. Mas Leão, que já havia emitido inúmeros alertas sobre a IA anteriormente, claramente tinha um ponto urgente a defender devido à "gravidade do momento", disse ele.
Na visão do papa, esse momento é aquele em que poucas pessoas poderosas controlam o destino do mundo. Leão não citou nomes, mas pareceu claro que ele estava falando sobre (e para) os executivos bilionários que comandam as maiores empresas de tecnologia.
"Quando tal poder está concentrado nas mãos de poucos", alertou ele na carta, "ele tende a se tornar opaco e a escapar da fiscalização pública, aumentando o risco de formas distorcidas de desenvolvimento que dão origem a novas dependências, exclusões, manipulações e desigualdades."
Ele continuou, explicando a importância de "libertar a tecnologia do controle monopolista e abri-la à discussão e ao debate", tornando-a "amigável ao ser humano e restaurando-a à pluralidade das culturas humanas e modos de vida".
Curiosamente, Leão e Olah não divergiram sobre esse ponto, nem sobre nenhuma das visões apresentadas em seus discursos. Na verdade, o fundador de tecnologia e o líder religioso pareciam profundamente alinhados.
ONDE CHRISTOPHER OLAH SE ENCAIXA?
Logo de início, Christopher Olah se apresentou como um tipo diferente de fundador de tecnologia: alguém cauteloso, até mesmo preocupado com a IA.
Ele começou o seu discurso se definindo como uma pessoa que entrou no trabalho de IA porque "tem o desejo de ajudar as coisas a correrem bem para a humanidade".
Ainda assim, ele alertou que mesmo aqueles que pensam de forma semelhante podem facilmente se deixar levar pelas capacidades da tecnologia.
"Cada laboratório de IA de fronteira, incluindo a Anthropic, opera dentro de um conjunto de incentivos e restrições que, às vezes, podem entrar em conflito com fazer a coisa certa", disse ele ao público.
Ele chegou a afirmar que compartilha da visão de Leão de que a IA é perigosa quando controlada por uma minoria poderosa.
"O desenvolvimento da IA está concentrado em um punhado de nações ricas. Como podemos garantir que os ganhos da IA sejam compartilhados globalmente?", perguntou ele.
A IA PODE ‘SUBSTITUIR O TRABALHO HUMANO’
Curiosamente, o fundador de tecnologia é conhecido por sua pesquisa pioneira sobre a "interpretabilidade" da IA, ou seja, como tornar as máquinas mais compreensíveis para os humanos. Anteriormente, ele liderou pesquisas de interpretabilidade na OpenAI.
Portanto, a sua postura de que os humanos devem ser capazes de manter o controle sobre a tecnologia não é muito diferente da de Leão. Tanto Olah quanto Leão falaram sobre algo que esteve na mente de muitos nos últimos anos: os impactos da IA sobre os trabalhadores.
Embora tenhamos ouvido pessoas do setor de tecnologia fazerem promessas extremamente atraentes sobre a capacidade da IA de criar empregos, Olah não seguiu o roteiro.
"Existe uma possibilidade real de que a IA substitua o trabalho humano em uma escala muito grande. Se isso acontecer, apoiar aqueles que foram deslocados será um imperativo moral de proporções históricas", disse ele.
UM APELO À COLABORAÇÃO
Talvez a maior lição de Leão e Olah, no entanto, tenha sido o apelo conjunto por uma colaboração contínua.
Christopher Olah enfatizou o ponto de que, embora as pessoas qualificadas em ciência e matemática possam ser as responsáveis por criar tecnologias poderosas, isso não significa que sejam as mais preparadas para fazer escolhas sobre como elas devem ser usadas.
Ele disse que as conversas entre líderes de tecnologia e líderes religiosos e morais são cruciais para manter a IA sob controle.
"É por meio do diálogo e do esforço mútuo, por meio do equilíbrio de forças, que a humanidade alcançará grandes coisas", disse Olah. "É isso que vejo na Magnifica humanitas, e é por isso que sou grato a Sua Santidade e à Igreja por assumirem este trabalho de discernimento", acrescentou.
Leão ecoou o apelo, observando que "a Igreja deseja, com humildade e franqueza, fazer parte das conversas sobre inteligência artificial". Ele afirmou que a Igreja pode não ter "respostas técnicas" e não deseja "substituir aqueles que têm experiência".
Em vez disso, ele propôs a ideia de que a Igreja tem algo diferente a oferecer: "uma sabedoria a respeito do humano de que o nosso tempo presente precisa desesperadamente".
Segundo Leo e Olah, essa sabedoria pode ser difícil de encontrar ao conversar com os poucos poderosos que estão no comando da IA.
