As piores mancadas (até agora) cometidas por marcas ao usar inteligência artificial
A pressa para incorporar as últimas novidades em inteligência artificial está cobrando seu preço – e muitas marcas estão aprendendo a lição da pior maneira
As marcas estão ansiosas para mostrar suas habilidades com IA – talvez até demais. Veja o caso da Toys'R'Us, uma famosa rede de lojas de brinquedos nos EUA. Ela chamou a atenção no recente Festival Cannes Lions com um exemplo ousado de uso de inteligência artificial como ferramenta criativa.
Anunciado como o primeiro vídeo de uma marca gerado por IA, o resultado acabou sendo alvo de críticas. Muitos acharam a peça assustadora e desconcertante, além de um desrespeito com os profissionais criativos de publicidade.
A representação onírica da história da empresa, feita com o Sora (ferramenta de texto para vídeo da OpenAI), é o mais recente exemplo de uma marca se esforçando demais para abraçar – e ser vista abraçando – o potencial da IA e acabando por pisar na bola.
Este é mais um lembrete do que as marcas têm a perder na pressa de fazer algo – qualquer coisa – envolvendo inteligência artificial. Qualquer que fosse o objetivo, acabou sendo um dos maiores erros que uma empresa poderia cometer na era da IA. Pelo menos, até agora.
Mas há muitos outros exemplos. Há algumas semanas, o McDonald’s encerrou um experimento em que usava inteligência artificial para anotar pedidos em drive-thru. As interpretações erradas do sistema – que, às vezes, entendia que os clientes haviam pedido centenas de McNuggets ou sorvete com bacon, por exemplo – viralizaram nas redes sociais.
A rede de fast food então anunciou que “exploraria soluções de pedidos por voz de forma mais ampla” – em essência, admitindo que a tecnologia ainda não estava pronta para ser implementada. Mas o McDonald’s não foi a única marca prejudicada pelo incidente: o episódio também atingiu a IBM, que foi responsável pela tecnologia usada no experimento.
No início deste ano, um tribunal canadense condenou a Air Canada a reembolsar um cliente que recebeu informações erradas do chatbot da companhia aérea sobre suas políticas. O valor em disputa era de cerca de US$ 600 (mais taxas judiciárias) – o que só torna o erro ainda mais ridículo.
Em um dos desastres de IA mais famosos até o momento, a “Sports Illustrated” foi pega usando a tecnologia para criar e publicar artigos gerados por inteligência artificial atribuídos a autores falsos.
O escândalo causou estragos em uma marca de jornalismo esportivo que já enfrentava dificuldades. O CEO da entidade operadora foi demitido após o ocorrido. Muito do conteúdo automatizado era duvidoso e estranho.
O desastre se tornou uma lição importante para as marcas sobre a necessidade de ser honesto e transparente sobre experimentos com IA.
Mas, claro, as empresas que realmente impulsionam a tecnologia de inteligência artificial também não estão imunes a erros. Muito pelo contrário. A tão falada OpenAI não conquistou sua fama apenas com acertos.
O comercial da Toys' R'Us é lembrete do que as marcas têm a perder na pressa de fazer qualquer coisa com IA.
Sua tecnologia inventou uma jurisprudência que acabou sendo usada – e exposta como falsa – em processos legais. A empresa também foi acusada de gerar uma imitação não autorizada da voz de Scarlett Johansson para o ChatGPT, tocando em uma questão sensível para a comunidade criativa sobre a IA generativa copiar sem permissão.
Qualquer tentativa de negar isso foi por água abaixo quando o CEO Sam Altman publicou um tuíte promovendo o lançamento enquanto fazia referência ao filme “Ela”, no qual a atriz deu voz a uma assistente de inteligência artificial fictícia.
Para não ficar para trás, o Google se apressou para adicionar IA ao seu mecanismo de busca, e seu produto, o AI Overviews, definitivamente chamou atenção – particularmente por dar conselhos duvidosos (que logo se tornaram virais) envolvendo comer pedras e usar cola em uma receita de pizza.
Mas a Microsoft provavelmente foi pioneira na breve história dos erros de IA. Em 2016, ela lançou o Tay, um chatbot alimentado por inteligência artificial e supostamente projetado para conversar com humanos e aprender com essas interações.
Infelizmente, ele acabou aprendendo com os usuários a reproduzir discursos racistas e antissemitas, e o projeto foi encerrado no dia seguinte.
os erros causados pela atual corrida da IA podem ser atribuídos, em parte, a um mau julgamento humano.
Para ser justo, a IA percorreu um longo caminho em pouco tempo e, provavelmente, continuará a melhorar. Mas isso não muda o fato de que esta tecnologia pode se tornar um problema maior no futuro.
Também não elimina os riscos que ela representa para as marcas. A pressa em incorporar as últimas novidades em inteligência artificial pode acabar fazendo com que pareçam não apenas desorientadas, mas também pouco confiáveis quando as coisas dão errado.
Mas este é um problema para as marcas, não para a tecnologia. Afinal, os erros causados pela atual corrida da IA podem ser atribuídos, em parte, se não principalmente, a um mau julgamento humano. E resolver isso pode levar um tempo.
