IA generativa está em todo lugar. É mais que hora de funcionar corretamente
Que este seja o ano em que a indústria de tecnologia exigirá o mais alto padrão para seu produtos: confiabilidade permanente
Entre as gigantes da tecnologia, a abordagem da Apple em relação à IA generativa chama atenção por sua cautela. A nova “Apple Intelligence” prefere evitar funcionalidades que possam dar errado ou ser mal utilizadas. O recurso Image Playground, por exemplo, gera apenas imagens alegres no estilo Pixar, garantindo que não sejam confundidas com fotos reais.
Ainda assim, até mesmo a Apple encontra limites ao tentar conter a imprevisibilidade da inteligência artificial. Um exemplo disso é o recurso de resumo de notificações. No mês passado, ao resumir um artigo da “BBC” sobre Luigi Mangione – acusado de assassinar o CEO da United Healthcare, Brian Thompson –, o sistema afirmou, erroneamente, que ele havia cometido suicídio.
Erros como esse, somados a outro que afirmava, de forma equivocada, que o primeiro-ministro israelense Benjamin Netanyahu havia sido preso, levaram um grupo de jornalistas a sugerir que a empresa deveria abandonar de vez os resumos de notificações.
É surpreendente que a Apple – reconhecida pela qualidade de seus produtos – tenha lançado um recurso de IA que divulga desinformação sobre algumas das notícias mais importantes do mundo. Isso sem mencionar que, mesmo quando os resumos são corretos, muitas vezes parecem ter sido escritos por alguém que mal entende como os humanos se comunicam.
Apesar de as notificações resumidas serem, em sua maioria, bastante objetivas, ainda não está claro se realmente trazem algum benefício aos usuários. Duvido que a Apple abandone o recurso, mas talvez tivesse sido mais sensato esperar até que ele estivesse funcionando melhor para lançá-lo.
BOM O SUFICIENTE - SÓ QUE NÃO
A corrida para implementar IA tem levado empresas a lançar produtos ainda instáveis – não porque tenham bugs no sentido tradicional, mas porque a imprevisibilidade é parte central do sistema. Para uma indústria acostumada a trabalhar com “zeros e uns”, onde o controle de qualidade é literalmente binário, isso representa uma mudança radical.
Há 30 anos, o processador Pentium, da Intel, apresentou um defeito que, em raras ocasiões, causava erros em cálculos. As chances de ele ocorrer eram de uma em nove bilhões, e isso fez com que a empresa minimizasse o problema inicialmente. Mas, após perceber o impacto negativo de sua postura, a Intel pediu desculpas e gastou milhões para substituir os processadores com defeito.
sabemos que uma tecnologia está madura quando é tão confiável que se torna banal.
Hoje, a instabilidade está tão presente nas interações com IA que, em algumas conversas que tive com o Claude, da Anthropic, ele mesmo reconheceu suas limitações. Em uma ocasião, ele admitiu: “embora eu tente ser preciso, posso fornecer informações erradas sobre tópicos muito obscuros.”
Essa transparência é um avanço em relação à confiança excessiva de outros chatbots, mas continua sendo uma solução paliativa, não definitiva.
Apesar de as versões atuais de sistemas como Claude, ChatGPT e similares cometerem menos erros graves do que antes, ainda são capazes de inserir informações erradas de maneira convincente em conteúdos amplamente precisos.
TECNOLOGIA É INVISÍVEL
Assim como a computação gráfica enfrentou por muito tempo o chamado “vale da estranheza” – em que animações quase realistas incomodavam os espectadores por pequenos detalhes imperfeitos, como olhos sem o brilho humano –, a inteligência artificial agora lida com o “vale do plausível” – erros que passam despercebidos, mas ainda existem.
Isso é pior do que falhas óbvias e não será resolvido tão cedo.
Por mais impressionante que seja a IA generativa, grandes avanços tecnológicos não deveriam depender de tolerância extra. O famoso escritor inglês Arthur C. Clarke disse uma vez que qualquer tecnologia suficientemente avançada é indistinguível da magia.
Com todo respeito, o inverso também é verdadeiro: sabemos que uma tecnologia está madura quando é tão confiável que se torna banal, e não mágica. Quando foi a última vez que você ficou maravilhado com a internet, com a eletricidade ou com viajar de avião?
Se 2025 for o ano em que a novidade da IA generativa perder o encanto, talvez as empresas de tecnologia finalmente a submetam aos mesmos padrões de confiabilidade das tecnologias já consolidadas. Esse amadurecimento não poderia vir em melhor hora – e seria um enorme avanço.
