Vint Cerf, pioneiro da internet: precisamos encarar IA com verdade e responsabilidade
Um dos "pais da internet”, o matemático diz que se preocupa com a tendência à desinformação
Vint Cerf, amplamente reconhecido como um dos “pais da internet”, receberá no próximo mês a prestigiosa Medalha de Honra do Instituto de Engenheiros Eletricistas e Eletrônicos. Mas prêmios não são novidade para o matemático, que desenvolveu (em conjunto com Robert Kahn) os protocolos TCP/IP que permitem o tráfego de todo o tipo de informação na internet.
A homenagem chega em um momento que é, ao mesmo tempo, promissor e perigoso. A internet se tornou uma parte central da vida das pessoas e das empresas, mas também se transformou em uma plataforma para a disseminação de informações falsas e prejudiciais, tanto no mundo digital quanto no físico.
A Fast Company conversou com Cerf – que atualmente trabalha como vice-presidente e evangelista-chefe da internet no Google – sobre as ameaças que a IA generativa e os problemas relacionados a ela podem representar para a internet e seus usuários. A seguir, suas reflexões (editadas para maior concisão e clareza).
SOBRE A DESINFORMAÇÃO NO SÉCULO 21
“A disponibilidade de informação e seu rápido acesso, claro, é vital para uma sociedade informada.
Portanto, o ponto que quero destacar aqui é que a internet, a world wide web e os serviços de indexação, como o Google Search, se tornaram os meios pelos quais informações são descobertas e acessadas. O problema é que algumas delas não são confiáveis.
Mas o mesmo se aplica a livros, jornais, revistas, programas de televisão e assim por diante. A world wide web apenas tornou possível encontrar informações, verdadeiras ou falsas, em enorme volume.
No entanto, isso coloca um fardo sobre os usuários, porque precisamos reconhecer que as informações variam em qualidade. No Google, fazemos o possível para fornecer respostas confiáveis.
Você deve se lembrar da história por trás do PageRank. Larry Page e Sergey Brin eram estudantes de pós-graduação em Stanford quando chegaram à conclusão de que páginas cujos links aparecem em muitas outras seriam mais relevantes. Então, por que não organizá-las dessa maneira?
Agora, temos centenas de indicadores que nos ajudam a descobrir como classificá-las, porque não é possível analisar todas de uma vez. É uma ferramenta muito importante, mas não é perfeita.”
SOBRE CHATBOTS DE IA
“Estou começando a achar que precisamos de mais e mais indícios da procedência do material que oferecemos. Especialmente agora que estamos entrando na era dos chatbots, que são como processadores de alimentos.
Eles são treinados a partir de conjuntos de dados aleatórios – enormes quantidades de informações de qualidade variada. E mesmo que tudo seja factual, descobri muito fazendo meu próprio experimento.
Decidi pedir que escrevesse um obituário para mim. Mas o chatbot tendia a misturar as informações. Por exemplo, ele me atribuía coisas que outras pessoas fizeram e vice-versa. Lembro-me de olhar para aquilo e pensar: ‘como isso aconteceu?’
Imagine que fatos são como legumes e você vai fazer uma salada. Como? Bem, usando uma coisa chamada processador de alimentos, certo? Basta colocar as cenouras, nabos e alface lá dentro e ele corta tudo em pedaços pequenos. Você então mistura mais um pouco e se serve.
Qual é a analogia? Suponha que você pegue frases factuais e as divida em pequenas partes, chamadas tokens nos sistemas de treinamento. Quando [a IA] responde à sua solicitação, ela simplesmente puxa todos esses fragmentos de coisas factuais e os junta de maneira gramaticalmente correta.
É só isso. É possível produzir textos muito convincentes, porém, totalmente incorretos. Mas, devido à maneira como o sistema de ponderação das redes neurais é construído, parecem muito críveis, especialmente quando você desconhece os fatos.”
UM SUPEREGO PARA IA
“Isso significa que encontrar uma maneira de incluir a procedência das afirmações feitas pelos chatbots será fundamental. Porque mesmo que seja tudo factual – o que não é o caso – nos deparamos com esse problema. Mas tenho visto algumas tentativas de solucioná-lo.
precisamos de mais indícios da procedência do material que oferecemos, especialmente agora que estamos entrando na era dos chatbots.
Lembra da teoria de Freud? Existe o id, o ego e o superego. Este último, como o córtex pré-frontal, exerce a função de sensor para evitar que você faça coisas que normalmente não faria.
Embora não saiba ao certo, suspeito que as redes neurais estejam sendo combinadas, o que gera incertezas sobre os resultados que os chatbots produzem. Nesse sentido, a existência de um superego seria importante para garantir a qualidade do conteúdo gerado. Ele agiria como uma espécie de filtro que impede a disseminação de desinformação.
Como consumidores dessa tecnologia, agora carregamos um fardo. O preço que pagamos para ter acesso instantâneo a todas essas informações é pensar criticamente sobre elas. Precisamos dar às pessoas ferramentas, e a procedência é uma delas.”
SOBRE IDENTIDADE E RESPONSABILIDADE
“Uma das coisas sobre as quais eu continuo falando é responsabilidade e autonomia. De maneira geral, acho que precisamos encontrar formas de responsabilizar as partes pelo que fazem e dizem na internet. E essas partes podem ser indivíduos, empresas ou até mesmo países.
É fundamental que elas possam ser identificadas. Isso leva a algumas questões difíceis sobre anonimato e proteção da privacidade, mas, ao mesmo tempo, as responsabiliza pelo que fazem.
Preciso fazer outra analogia: placas de carro. São apenas um conjunto de letras e números, mas algumas pessoas, sobretudo a polícia, podem quebrar esse anonimato e descobrir quem é o dono do automóvel. Mas só podem fazer isso com uma autorização. Precisamos de algo semelhante, com proteções adequadas.”
UM CONTRATO SOCIAL PARA A VIDA DIGITAL
“Este não é um problema novo. Nossas civilizações sempre o tiveram. Se lembrarmos do contrato social de Rousseau, ele basicamente diz que os cidadãos abrem mão de uma certa quantidade de liberdade em troca de proteção e uma sociedade segura. Ou seja, minha liberdade acaba quando está prestes a interferir na do outro. E este é um conceito importante.
Estamos tentando descobrir como fazer o mesmo no mundo online. E isso também se aplica à autonomia.
Precisamos proporcionar aos indivíduos, organizações e países os meios para se protegerem de danos neste ambiente conectado – de serem enganados, vítimas de fraude etc.
Mas como diabos vamos fazer isso? Como preservamos os direitos e liberdades das pessoas ao mesmo tempo em que construímos barreiras para que não sejam prejudicadas por este ambiente?”
