A IA precisa entrar no piloto automático. Não aquele que está pensando
Assim como a escrita e a automação mudaram a aprendizagem, a IA exige novas formas de formar profissionais
Há cerca de 2.400 anos, Sócrates alertou que uma nova tecnologia perigosa poderia esvaziar a mente humana. No diálogo "Fedro", de Platão, ele conta a história do deus egípcio Theuth, que apresenta a escrita ao rei como um presente capaz de tornar as pessoas mais sábias.
O rei discorda. A escrita, responde ele, produzirá exatamente o efeito contrário: as pessoas deixarão de exercitar a memória porque passarão a confiar nas palavras registradas nas páginas. Terão a aparência da sabedoria, mas não a verdadeira sabedoria.
Em certa medida, ele estava certo. A extraordinária capacidade de memorização do mundo antigo diminuiu quando o conhecimento passou a ser registrado e recuperado por meio da escrita. Toda habilidade que deixa de ser exercitada acaba se atrofiando.
Essas advertências de Sócrates voltaram à minha mente porque estamos vivendo uma nova versão da conversa apresentada em "Fedro".
Um estudo recente do Boston Consulting Group (BCG), realizado com 70 executivos seniores, concluiu que justamente as capacidades mais valorizadas pelas lideranças – como julgamento, definição adequada dos problemas e análise original – são as que mais rapidamente estão se deteriorando à medida que a inteligência artificial se torna parte do trabalho cotidiano.
as máquinas inteligentes passam a ocupar justamente o espaço entre o aprendiz e o especialista.
Os pesquisadores chamam esse fenômeno de desqualificação distribuída. Metade dos executivos entrevistados afirma já estar observando esse processo em suas organizações.
Essa perda pode comprometer seriamente a capacidade das empresas. Fluxos de trabalho inteiros podem ser incorporados a sistemas orientados por IA cujo funcionamento ninguém compreende plenamente, tornando as organizações extremamente vulneráveis diante de situações inesperadas.
Ainda assim, muitas das soluções propostas para enfrentar essa perda de habilidades – como "sextas-feiras sem IA", equipes dedicadas a desafiar respostas produzidas pela tecnologia ou aprovações obrigatórias por humanos – deixam de atacar o problema central: o enfraquecimento da relação entre aprendiz e mentor.
O QUE CONSTRUÍMOS DA ÚLTIMA VEZ
Com o tempo, a humanidade criou instituições capazes de aproveitar o potencial da escrita.
Construímos escolas e universidades. Criamos bibliotecas para organizar o enorme volume de conhecimento registrado. Desenvolvemos sistemas de citação e atribuição para que cada afirmação pudesse ser vinculada a uma cadeia de responsabilidade. Também criamos a revisão por pares, os seminários, os debates acadêmicos e o método científico.
Todas essas estruturas foram concebidas especificamente para tirar proveito daquela enorme transformação tecnológica. Foram elas que converteram um aparente colapso de habilidades na Revolução Científica.
A economista Carlota Perez observa que toda grande revolução tecnológica acontece em duas etapas.
Primeiro vem a fase de instalação: a nova tecnologia avança rapidamente, o capital financeiro flui em massa, as instituições antigas começam a mostrar sinais de esgotamento e a instabilidade se espalha.
Depois vem um ponto de inflexão que inaugura a fase de implantação, quando a sociedade reorganiza suas instituições para explorar plenamente o potencial da nova tecnologia.
Segundo Perez, a migração dos investimentos da especulação financeira para a economia produtiva pode abrir caminho para uma nova era de prosperidade, mas somente depois que novas instituições forem criadas.
Leia mais: Quando a IA escreve por você, quem está pensando?
A perda de habilidades identificada pelo BCG é um sinal inequívoco de que ainda estamos na primeira fase. A tecnologia avançou mais rápido do que as instituições criadas para a era anterior.
As organizações sempre desenvolveram o julgamento profissional por meio de uma trajetória de aprendizagem prática. Os profissionais iniciantes aprendiam realizando o trabalho analítico mais operacional, repetindo tarefas e desenvolvendo discernimento ao resolver, um a um, problemas difíceis.
A inteligência artificial eliminou os primeiros degraus dessa escada – e ainda não construímos outra para substituí-la.
QUANDO A IA ROMPE O VÍNCULO ENTRE MESTRE E APRENDIZ
O pesquisador Matt Beane passou uma década estudando como máquinas inteligentes afetam o desenvolvimento de habilidades em salas de cirurgia, centros de distribuição e operações militares.
Sua conclusão é que competências valiosas surgem da combinação de três elementos:
- Desafio: trabalhar constantemente no limite da própria capacidade;
- Complexidade: compreender todo o sistema relativo a uma tarefa, e não apenas a tarefa em si;
- Conexão: estabelecer uma relação de confiança entre quem ensina e quem aprende.
Esses três fatores dependem diretamente da relação entre especialista e iniciante.
Segundo Beane, o dano mais característico provocado pelas máquinas inteligentes é extremamente específico: elas passam a ocupar justamente o espaço entre o aprendiz e o especialista.
Em 1997, o comandante Warren Vanderburgh, da American Airlines, fez uma palestra que se tornou referência ao alertar para os riscos da automação nas cabines de comando.
Ele chamou de "filhos da linha magenta" os pilotos que se tornaram tão dependentes das orientações exibidas nas telas que perderam tanto a habilidade manual de pilotar quanto o julgamento necessário para conduzir um avião.
Toda organização deveria construir seu próprio simulador e devolver os controles aos iniciantes.
Após analisar acidentes, incidentes e violações operacionais, Vanderburgh e sua equipe concluíram que 68% desses eventos estavam relacionados ao uso inadequado da automação.
Em 2009, quando o piloto automático do voo Air France 447 foi desativado sobre o oceano Atlântico, a tripulação estava tão acostumada a depender da automação que não conseguiu identificar uma situação básica de perda de sustentação (stall). O acidente matou 228 pessoas.
Poucos anos depois, um avião da Asiana caiu durante a aproximação para pouso em São Francisco porque os pilotos não conseguiram realizar manualmente uma aproximação visual relativamente rotineira sem o auxílio do sistema automático de controle de potência.
A automação não eliminou os erros. Ela apenas concentrou os riscos em situações raras, mas de consequências extremamente graves.A resposta da aviação não foi proibir o piloto automático. Foi criar simuladores de voo e tornar obrigatório um treinamento contínuo baseado neles.
Os simuladores oferecem desafios sob demanda. É possível reproduzir uma pane no motor, um sensor congelado ou uma perda de sustentação sem colocar passageiros ou aeronaves em risco. Também permitem que os pilotos enfrentem toda a complexidade do sistema, simulando emergências que dificilmente ocorreriam em voos reais.
E, quando bem conduzido, o treinamento preserva o elemento mais importante: a conexão. Um instrutor acompanha o piloto, provoca as falhas deliberadamente e conduz a análise detalhada depois de cada exercício.
A LIÇÃO PARA A ERA DA INTELIGÊNCIA ARTIFICIAL
Toda organização deveria adotar o mesmo princípio utilizado pela aviação: construir seu próprio simulador e devolver os controles aos profissionais iniciantes.
É preciso separar o treinamento da operação real para que os mais jovens possam enfrentar problemas difíceis, raros e de alto impacto em um ambiente onde errar faz parte do aprendizado e o feedback é o principal objetivo.
Leia mais: Como a tecnologia torna o dia a dia mais fácil e a vida, mais difícil
A escrita não nos tornou menos inteligentes. Ela obrigou a humanidade a reinventar a forma como uma geração transmite conhecimento para a seguinte.A automação nas cabines de comando obrigou a aviação a fazer o mesmo.
Agora, a inteligência artificial está impondo esse mesmo desafio ao restante da sociedade. A boa notícia é que as soluções práticas já existem. O desafio é adaptá-las às necessidades específicas de cada organização.
