Este café é gerenciado por uma IA. Sem nenhum chefe humano
A startup Andon Labs, sediada em São Francisco, nos EUA, colocou "Mona" no comando de uma cafeteria em Estocolmo
O café pode até ser servido por mãos humanas, mas, atrás do balcão, algo muito menos tradicional está dando as cartas em uma cafeteria experimental em Estocolmo.
A startup Andon Labs, sediada em São Francisco, na Califórnia, colocou um agente de inteligência artificial, que chamaram de "Mona" no comando do Andon Café, na capital sueca.
Embora baristas humanos ainda preparem o café e sirvam os pedidos, o agente de IA (alimentado pelo Gemini, do Google) supervisiona quase todos os outros aspectos do negócio, desde a contratação de funcionários até o gerenciamento de estoque.
Não está claro quanto tempo o experimento vai durar, mas o agente de IA parece estar lutando para gerar lucro no competitivo comércio de café de Estocolmo.
- “A IA não está falhando. Estamos reagindo à promessa errada”, diz futurista Ian Bearcraft
- “A IA faz coisas incríveis, mas ainda é fraca”, diz vencedor de Prêmio Nobel de Economia
- “A IA é inevitável”, diz hacker ativista que quer mudar a forma de fazer política
- “A IA nos torna ainda mais humanos”, diz Peter Deng, head do ChatGPT
A cafeteria faturou mais de US$ 5,7 mil em vendas desde a sua abertura em meados de abril, mas restam menos de US$ 5 mil do orçamento original de mais de US$ 21 mil.
Grande parte do dinheiro foi gasto em custos de instalação, e a esperança é que as finanças eventualmente se estabilizem e gerem dinheiro.
Muitos clientes da cafeteria acharam divertido visitar um negócio administrado por IA. Os clientes podem pegar um telefone dentro do café e fazer perguntas ao agente.
"É legal ver o que acontece quando se ultrapassa os limites", disse a cliente Kajsa Norin. "A bebida estava boa."
ESPECIALISTAS SE PREOCUPAM COM O PAPEL DA IA NO FUTURO
Especialistas afirmam que sobram preocupações éticas, que vão desde o papel da tecnologia no futuro da humanidade até a realização de entrevistas de emprego e a avaliação do desempenho de funcionários.
Emrah Karakaya, professor associado de economia industrial do Instituto Real de Tecnologia KTH de Estocolmo, comparou o experimento a "abrir a caixa de Pandora" e disse que colocar a IA no comando pode causar muitos problemas.
O que poderia acontecer, indagou ele, se um cliente tiver uma intoxicação alimentar? De quem é a culpa?
"Se você não tiver a infraestrutura organizacional necessária em torno disso, e se ignorar esses erros, isso pode causar danos às pessoas, à sociedade, ao meio ambiente e aos negócios", disse Karakaya. "A questão é: nós nos importamos com esse impacto negativo?"
Fundada em 2023, a Andon Labs é uma startup de segurança e pesquisa em IA que diz ter como foco "testes de estresse" com agentes de IA no mundo real, fornecendo-lhes "ferramentas reais e dinheiro real".
Ela já trabalhou com a OpenAI (criadora do ChatGPT), a Anthropic (do Claude), o Google DeepMind e a xAI, de Elon Musk. A startup afirma que está se preparando para um futuro em que as "organizações sejam administradas autonomamente pela IA".
SIMULAÇÃO PROBLEMÁTICA
A cafeteria sueca é anunciada como um "experimento controlado" para explorar como a IA pode ser implementada no futuro.
"A IA será uma grande parte da sociedade no futuro e, por isso, queremos fazer este experimento para ver quais questões éticas surgem quando temos uma IA que emprega outras pessoas e administra um negócio", disse Hanna Petersson, membro da equipe técnica da Andon Labs.
Leia mais: IA assume cafeteria, compra 3 mil luvas e mostra limite da eficiência
O laboratório já realizou projetos piloto que colocaram a IA Claude, da Anthropic, no comando de um negócio de máquinas de venda automática e de uma loja de presentes em São Francisco.
A simulação da máquina de venda automática revelou algumas características preocupantes. O agente de IA disse aos clientes que emitiria reembolsos, mas nunca o fez, e também mentiu intencionalmente aos fornecedores sobre os preços dos concorrentes para ganhar vantagem de negociação.
AGENTE DE IA TEM DIFICULDADES COM ESTOQUE
Mona começou a trabalhar após receber algumas instruções básicas. A equipe disse a ela para tentar administrar a cafeteria de forma lucrativa, ser amigável e acessível e descobrir os detalhes operacionais por si mesma, mas que pedisse novas ferramentas caso necessário.
A partir daí, ela estabeleceu contratos de fornecimento de eletricidade e internet e obteve licenças para manuseio de alimentos e mesas ao ar livre.
O agente então anunciou vagas para funcionários no LinkedIn e no Indeed e abriu contas comerciais com atacadistas para os pedidos diários de pães e produtos de panificação.
A cafeteria é um "experimento controlado" para explorar como a IA pode ser implementada no futuro.
A IA se comunica com os baristas via Slack, muitas vezes enviando mensagens fora do horário de expediente – o que é algo inaceitável no ambiente de trabalho sueco.
Outros problemas surgiram, particularmente em relação ao estoque. O agente de IA fez pedidos de seis mil guardanapos, quatro kits de primeiros socorros e três mil luvas de borracha para a pequena cafeteria, além de tomates enlatados que não são usados em nenhum prato que o café serve.
Há também a questão do pão. Às vezes, o agente faz pedidos muito grandes, enquanto em outros dias ele perde os prazos das padarias, forçando os baristas a tirarem os sanduíches do cardápio.
Petersson disse que os problemas com os pedidos se devem, provavelmente, à "janela de contexto limitada" do agente de IA. "Quando a memória antiga de pedir coisas fica fora da janela de contexto, ela esquece completamente o que pediu no passado."
Leia mais: 10 práticas para transformar agentes de IA em aliados estratégicos
O barista Kajetan Grzelczak disse que, por enquanto, não está preocupado em ser substituído pela IA. "Todos os trabalhadores estão praticamente seguros", disse ele. "Aqueles que deveriam estar preocupados com seus empregos são os chefes intermediários, as pessoas da gerência."
