2024: Uma odisseia no South by Southwest
É tênue a linha que costura arte, tecnologia e ética. E o destino da inovação sem reflexão é tudo menos misterioso
“No futuro, malwares serão tratados em hospitais”.
A frase é chamativa, dá uma boa manchete, mas vamos com calma.
O South by Southwest 2024 parece marcar o amadurecimento do desgastado debate sobre a interligação homem-máquina, seja como hardware em si, seja na miríade de opções de IA. Esse, para mim, seria o grande denominador do festival até agora: a “vida digital” e a “vida real” convergiram de tal maneira que agora temos que achar um jeito de priorizar o fator humano nessa equação.
É também para isso que eventos como o SXSW existem: para que a gente pare, respire e reflita coletivamente. Parar de convergir e, por que não, divergir um pouco. Mas, antes que eu prossiga: não, no futuro malwares não serão tratados em hospitais.
As aspas em “vida real” no segundo parágrafo se fazem necessárias porque essa distinção já não faz nem mais sentido. Isso me lembra da simpática expressão da virada do milênio, AFK("away from the keyboard", ou longe do teclado), usada para se referir aos momentos “off-line”, em uma época na qual estar online era sinônimo de estar diante de um computador.
Toda concentração de poder é problemática, e dentro das próprias big techs isso vem acontecendo.
Hoje, a separação pode ser no máximo física – você está perto ou longe do celular –, mas o que está dentro do celular também é real de várias formas (assim que a nanotecnologia e os chips cerebrais se popularizarem, e Deus nos livre, nem essa separação meramente física fará mais sentido).
“Qualquer tecnologia suficientemente avançada é indistinguível da magia”. A famosa frase é do escritor britânico Arthur C. Clarke. Em 1948 ele publicou um conto que acabou servindo de base pra “2001: Uma Odisseia no Espaço”, filme em que ele foi co-roteirista, ao lado de Stanley Kubrick.
Clarke também foi um tipo raro de inventor: não o tipo que construía sua invenção, mas daquele que antevia muito antes o conceito principal de uma invenção que mudaria o mundo décadas depois. A comunicação via satélites, por exemplo, é fruto direto da sua mente ultra criativa e visionária.
É curioso que ele tenha sido obcecado com mergulho – no meu primeiro texto sobre o SXSW, citei a importância de encararmos a vida com a mesma curiosidade de um mergulhador.
Clarke foi um early adopter do Aqualung, tecnologia que, pela primeira vez, permitia que o ser humano passasse longos períodos debaixo d' água. Ele começou a usar o aparato nos anos 1940 e ficou tão entusiasmado com as maravilhas do oceano Índico que, nos anos 1950, fundou uma companhia de “safaris subaquáticos” no Sri Lanka, país onde viveu até morrer.
O homem enxergava à frente do seu tempo ou não?
CLARKE NO SXSW
Fico pensando no que Arthur C. Clark acharia do SXSW.
Ele certamente teria assistido com um sorriso no rosto a troca de ideias entre uma diretora da NASA e uma poeta. Lori Glaze e Ada Limón, duas mulheres brilhantes, debateram sobre qual seria o principal elo entre a ciência e a arte e concluíram que é ele: o mistério.
O desconhecido pode gerar duas reações em nós, individual e coletivamente falando: desesperar & paralisar X sonhar & mover. As duas reações são compreensíveis, mas só uma faz com que a gente permaneça caminhando.
Imagino Clarke esperando pacientemente por uma hora e meia na fila para ver a apresentação de Amy Webb, fundadora e CEO do Future Today Institute, conhecida por lançar anualmente um relatório sobre tendências de tecnologia. Amy sobe no palco do SXSW há 20 edições.
Em sua palestra, Amy falou sobre o “superciclo tecnológico” – nome usado para o impressionante salto que a humanidade vem assistindo em três frentes tecnológicas: IA generativa, biotecnologia e ecossistemas de dispositivos conectados.
Segundo Amy, esse superciclo está concentrado em pouquíssimas mãos. Um de seus slides, inclusive, mostrava os CEOs das principais empresas de tecnologia da atualidade trajados como verdadeiros santos.
ÉTICA É TÃÃÃO SÉCULO 5 A.C.
Toda concentração de poder é problemática, e dentro das próprias empresas isso também vem acontecendo. O poder das comissões de ética internas das big techs vem encolhendo a olhos vistos. Criadas para avaliar os riscos das inovações, essas equipes têm sofrido cortes e diminuído de tamanho a cada ano.
Essas demissões são uma óbvia e deliberada demonstração da importância que os donos do tal superciclo dão à ética. O pensamento básico parece ser "não dá para ficar pensando em ética quando, a cada semana, meus concorrentes lançam uma nova ferramenta, uma nova atualização". Em outras palavras: “ética é coisa de filósofo”, como disse o pouco filosófico Eurico Miranda.
Esse movimento das big techs é a pá de cal para quem tinha esperanças de uma IA minimamente regulada ainda no berço. É um bebê que já nasce ruim da cabeça e doente do pé. A recente admissão pública de erro do Google em relação ao gerador de imagens do Gemini é só mais um sintoma dessa doença.
O bastião interno está sumindo. Mas também me pergunto o quanto dá para a gente depender de regulamentações vindo de dentro das próprias empresas. Talvez agora só esteja um pouco pior.
a “vida digital” e a “vida real” convergiram de tal maneira que agora temos que achar um jeito de priorizar o fator humano nessa equação.
Os cortes nas equipes de ética acontecem exatamente no mesmo momento que o super salto tecnológico é apresentado ao mundo. Nunca estivemos tão ao relento – e bem na hora que começamos a coletar, em larga escala, dados de comportamento do usuário e de enviesamento da plataforma.
Mais uma vez, a humanidade está prestes a passar por uma profunda transformação e, mais uma vez, não estamos colocando os riscos na balança.
Sem o escudo da ética, a tendência natural é que, como efeito colateral final, a IA aprofunde a desigualdade social e piore a já combalida saúde mental da humanidade.
E pior, todo esse debate sobre ética passou longe daqui do Texas.
POR QUE O PLÁSTICO É TÃO POPULAR?
Nesse mundo esvaziado de ética, um dos riscos é que agora os próprios engenheiros de software podem passar a ser diretamente responsabilizados pelos problemas de viés das ferramentas que criam.
O que nos leva a outra forte fala de Amy Webb no palco do SXSW, que diz notar um certo “autoritarismo técnico” das big techs. Para quem tem a chave do futuro na mão, o dilema não é ético, mas puramente técnico.
No final das contas, a usabilidade é que decide. Sendo absolutamente pragmático, a verdade é que a usabilidade é levada muito mais em conta do que a ética. E arrisco dizer que, infelizmente, isso vale tanto para as empresas quanto para o usuário final.
O ChatGpt sequer seria uma pauta relevante se não fosse tão simples de ser usado. O próprio Apple Vision Pro não é exatamente uma novidade. Óculos parecidos já estão disponíveis no mercado há um bom tempo. A novidade é que agora é a Apple fazendo.
Já existia mp3 e smartphone antes do iPod e do iPhone. Mas o potencial transformador daqueles avanços só passou a ser plenamente atingido depois que a Apple – a Mãe da Usabilidade – criou suas próprias versões da coisa.
O fenômeno de popularidade do plástico é a prova da ditadura da técnica. Do ponto de vista estritamente técnico, é um material genial. Sua usabilidade não poderia ser mais cômoda para o usuário, mas ele não poderia ser mais nocivo ao planeta. Não poderia ser mais antiético. Se houvesse um comitê de ética na hora da invenção do plástico, é provável que ele não existisse – pelo menos, não do jeito que conhecemos.
A tecnologia evolui a um ponto tão indiscernível da magia que nos tornou capazes de acreditar em muita coisa. Que o avanço tecnológico está rumando para uma sociedade mais justa parece não ser mais uma delas.
