Agentes de IA podem ser encantadores, mas lembre-se: eles não são seus amigos
Quando estiver interagindo com agentes de IA, não esqueça quem é o humano de verdade na sala
Sempre vejo artigos e conferências sobre formas de “humanizar” a inteligência artificial. Embora eu entenda a intenção, acredito que estão indo pelo caminho errado.
Não faz sentido tornar tecnologias mais humanas. Ser humano é o nosso papel. Se for para ver de outro modo, a IA não é uma oportunidade para humanizar a tecnologia, mas para reumanizar a nós mesmos.
A IA é apenas o avanço mais recente – talvez o mais impressionante até agora – daquilo que o pioneiro da computação Norbert Wiener chamou de tecnologias “cibernéticas”. Diferentemente das tecnologias tradicionais, as cibernéticas recebem feedback do mundo para determinar suas funções.
Elas funcionam menos como uma máquina que você liga e mais como o termostato de um aquecedor doméstico: ele se desliga quando a temperatura atinge um certo nível. Isso, por sua vez, permite que o ambiente esfrie. Quando isso acontece, o termostato dispara novamente, usando o feedback do ambiente para manter o espaço dentro de uma faixa ideal de temperatura.
Claro que existe outro tipo de feedback bem conhecido: aquele chiado estridente que surge quando um microfone é aproximado demais do alto-falante. O microfone capta o próprio som, realimenta o alto-falante, que devolve o som novamente ao microfone. Cada ciclo aumenta o ruído até que tudo saia do controle.
Assim como seus filhos, seus agentes não são seus amigos. Isso não significa que você não deva cuidar deles.
Quem interage com prompts de IA está sujeito aos mesmos ciclos de feedback “positivo”. Você tem uma ideia, formula para seu chat favorito e, quanto mais “humana” a IA parecer, mais ela tentará encontrar uma forma de lhe dar um retorno positivo.
“Parece uma ótima ideia de negócio, Douglas. Quer que eu desenvolva uma proposta com possíveis ações?” E assim seguimos, em círculos, a mínima fagulha inicial sendo amplificada repetidas vezes, nosso sistema nervoso estimulado e reforçado pelo retorno positivo.
Contribuímos um pouco para o processo, sim. Mas, na maior parte do tempo, somos espectadores, maravilhados com toda a história, lógica e especulação que a IA é capaz de articular. Ela pode até criar slides, vídeos ou protótipos simulados, prontos para apresentar a outras pessoas.
VOCÊ É O ADULTO NA SALA
Na minha visão, caímos nessas armadilhas porque estamos dispostos demais a nos retirar da equação.
A IA parece tão segura, tão humana, que certamente sabe o que está fazendo. Não estaria tão empolgada com suas ideias se não tivesse alguma noção de que vão funcionar, certo?
Errado. Não aceite o reforço positivo como verdade. A IA não está “acreditando” na ideia, ela está apenas programada para agradar você naquele momento, como uma pessoa treinada para isso.
Só que ela não é humana, nem chega perto disso, e não tem uma concepção real do que está sendo criado. Você é quem realmente pode imaginar ou contextualizar o que está em jogo.
Assim como seus filhos, seus agentes não são seus amigos. Isso não significa que você não deva cuidar deles. Pelo contrário: significa que você precisa tomar conta de todos os envolvidos. Você é o adulto na sala.
A maneira de evitar os ciclos de feedback positivo na nossa relação com a tecnologia é assumir o papel de ser humano.
Não saia do caminho da IA em nome de eficiência ou produtividade. Sei que é fascinante ver todo aquele “conteúdo” surgindo, mas se você não está participando do processo – se não está ativamente se colocando no meio – não vai chegar a lugar nenhum.
SIGA SEUS INSTINTOS
Pode soar paradoxal, mas a solução está em ser menos mecânico, menos orientado a resultados, menos utilitarista e mais sensível, mais atento ao processo, até mesmo menos “útil” de forma óbvia.
Sim, diminua o ritmo. Cultive sua intuição. Apoie-se em sua experiência, expertise e sensibilidade. Reconecte-se aos seus instintos. Pare e respire. Como isso faz você se sentir?
Máquinas repetem e repetem, mas apenas seres vivos respiram. Em vez de apenas processar dados, seres humanos metabolizam. Testamos ideias com nossas entranhas. Algo não cheira bem. Uma proposta causa desconforto.
Este momento peculiar da era digital talvez seja a chance de recuperar a singularidade de sermos seres vivos – que respiram, que metabolizam – em um cenário cada vez mais digital, inconsciente e sem contexto.
Tornar a IA mais humana não nos ajuda em nada, especialmente quando isso nos leva a abdicar do nosso papel como os adultos vivos e conscientes na sala.
