Algoritmos e humanos: rumo ao modelo híbrido?
A tecnologia deve somar-se à ética humana para se adequar à nossa diversidade
O termo “algoritmo” já não nos é estranho: ele está presente na quase totalidade de serviços online e conquista cada vez mais terreno off-line com a promessa de automatizar tarefas, neutralizando possíveis erros humanos.
Através de mágicas matemáticas, cujos processos permanecem uma incógnita até mesmo para seus programadores, algoritmos calculam probabilidades em diferentes cenários, a fim de nos aconselhar a melhor decisão – desde o que você pode assistir em seguida na Netflix até se você é adequado para aquela vaga de emprego que tanto quer.
Por que então, mesmo com tantos benefícios, inteligências artificiais estão levantando cada vez mais dúvidas?
Computadores podem ser excelentes em matemática, mas o que pode ser quantificado é apenas uma parcela da nossa sociedade e cultura. A sensibilidade da análise crítica, a empatia e a ética social são valores que ainda não conseguimos ensinar às máquinas.
Análises qualitativas se mostram cada vez mais falhas via algoritmos. Mais do que isso, nossa história – ou seja, o material por meio do qual as inteligências artificiais nos conhecem – é extremamente excludente, preconceituosa e injusta. O clássico exemplo que ilustra muito bem isso é o chatbot Tay, lançado pela Microsoft em 2016.
A sensibilidade da análise crítica, a empatia e a ética social são valores que ainda não conseguimos ensinar às máquinas.
Mesmo após cinco anos, grandes empresas ainda não aperfeiçoaram seus algoritmos contra discursos de ódio. Em um caso recente, o Facebook precisou se desculpar publicamente quando seu algoritmo questionou os usuários que assistiram a um vídeo jornalístico com homens negros se gostariam de “continuar vendo vídeos sobre primatas”.
Algoritmos mal empregados também estão sendo responsáveis por privar estudantes de seus futuros. Eles foram responsáveis por dar notas aos alunos de um exame nacional cancelado por causa da pandemia no Reino Unido. Com base em uma série de informações, algoritmos deram notas imaginárias responsáveis por decidir seus futuros educacionais.
Após uma análise dos resultados, provocada pelo fato de que um terço dos alunos tiveram notas piores das que os professores lhes deram, entendeu-se que o algoritmo colocou em vantagem alunos de escolas particulares, pois geralmente são seletivas, melhor financiadas e, por consequência, apresentam um histórico de desempenho melhor. Mesmo o governo tendo reconhecido o erro após protestos, muitos estudantes ficaram no limbo, sem serem admitidos em universidades.
O que todos esses exemplos têm em comum é a ideia de que soluções tecnológicas são superiores e neutras, sem juízos de valor, quando na verdade foram programadas por seres humanos e alimentadas com a nossa dinâmica social altamente excludente. Computadores podem ser excelentes em matemática, mas falham repetidamente na tomada de decisões sociais.
