Quando as máquinas decidem por nós: o invisível jogo de poder dos algoritmos
O que muda quando algoritmos interagem entre si – e como lidar com isso
Uma nova infraestrutura de negócios está se formando, com um potencial de impacto gigantesco, mas praticamente sem planejamento consciente. Nesse novo cenário, algoritmos negociam entre si, tomando decisões que moldam mercados, definem carreiras e determinam se empresas prosperam ou fracassam. Aos humanos, resta o risco de se tornarem meros espectadores.
No LinkedIn, postagens criadas por modelos de IA recebem curtidas de bots e comentários de outros assistentes artificiais. Nos processos de recrutamento, candidatos usam IA para redigir currículos, enquanto empresas utilizam inteligência artificial para avaliá-los. Algumas organizações já produzem pedidos de proposta com ajuda da tecnologia, e fornecedores respondem com documentos igualmente gerados por IA.
Os ganhos de eficiência são inegáveis. Mas isso não significa que podemos ignorar os riscos que vêm junto. Para evitar um futuro em que humanos se tornem irrelevantes, precisamos estar atentos e criar processos e ferramentas capazes de mitigar esses problemas.
Para navegar nesse novo ambiente, líderes precisam, antes de tudo, compreendê-lo com mais clareza. Quatro aspectos se destacam nesse mundo cada vez mais regido por algoritmos:
1. O público muda
A tecnologia não cria apenas novas ferramentas – ela também forma um novo público. Não é um fenômeno totalmente novo, mas agora a escala é muito maior, com algoritmos assumindo os dois lados da interação. Isso não significa que a comunicação acabou; ela apenas mudou de forma.
Além do componente humano, ou até em substituição a ele, outro tipo de significado passou a ser central: aquele medido por índices de compatibilidade, taxas de engajamento e posições em rankings. Os humanos ainda participam, mas em pontos específicos, enquanto boa parte do processo acontece sem sua intervenção.
2. Métricas substituem a realidade
Em 1975, Charles Goodhart formulou a chamada Lei de Goodhart: quando uma métrica vira o objetivo em si, ela deixa de ser um bom indicador.
Em outras palavras, quando decisões passam a ser tomadas apenas para bater certas metas, o comportamento real que deveria ser medido se perde. O foco deixa de ser o objetivo final e passa a ser apenas um número. E, sempre que há um sistema, há quem tente manipulá-lo.
Isso se torna ainda mais frequente quando falamos de interações algorítmicas. Pense nos sistemas de triagem de candidatos, que avaliam currículos por palavras-chave, tempo de experiência e diplomas. Os candidatos, por sua vez, respondem usando IA para otimizar seus currículos de acordo com esses critérios.
O resultado? A pontuação perde o sentido original: antes, uma nota alta indicava compatibilidade com a vaga; agora, pode significar apenas que o candidato soube explorar bem o sistema.
3. O conhecimento tácito se perde
Educadores e técnicos esportivos sabem bem: grande parte do aprendizado acontece na prática, não somente durante a explicação.
Quando gestores escrevem avaliações de desempenho, não estão apenas registrando informações; também estão desenvolvendo sua capacidade de observar, analisar e dar feedback. Quando equipes elaboram propostas, não estão apenas competindo por um contrato; estão organizando ideias, identificando falhas e construindo entendimento conjunto.
Esse conhecimento tácito – o que nasce da experiência prática, e não só da teoria – tende a se perder quando a IA assume essas tarefas.
4. O propósito muda
Os processos de negócios que usamos foram criados em um mundo conduzido por humanos, com objetivos humanos. Mas, quando essas funções passam a ser desempenhadas por algoritmos, muitas vezes deixam de cumprir seu propósito original.
Aos humanos, resta o risco de se tornarem meros espectadores.
Veja o caso das avaliações de desempenho. A ideia inicial era medir as competências dos funcionários para apoiar seu desenvolvimento. Mas, se o processo é conduzido por IA dos dois lados, ele se torna apenas um ritual vazio, sem real utilidade.
Os algoritmos já fazem parte da estrutura dos negócios. Resistir a essa mudança é tão inútil quanto tentar impedir a maré de subir. Mas, ainda que inevitável, essa transformação precisa ser guiada por líderes conscientes do que está em jogo.
Ao proteger o julgamento humano, a capacidade de interpretação, o aprendizado e o propósito, as organizações podem colher os ganhos da automação sem perder o que torna os negócios realmente humanos.
