Muse entregou o endereço de uma pessoa a um estranho (e ele apareceu lá)
A experiência de um creator revela como permissões amplas podem permitir que uma IA compartilhe dados pessoais indevidamente
No fim de semana, o que parecia ser uma transação bastante comum no Facebook Marketplace tomou um rumo bizarro quando Matt Robb, criador de vídeos sobre tecnologia baseado em Toronto, no Canadá, deixou que o Muse cuidasse de suas comunicações.
Algumas horas depois, Robb descobriu que, sem seu conhecimento, o novo agente de IA da Meta havia aceitado uma oferta muito abaixo do valor pedido por um teclado que ele estava vendendo e combinado um horário para o comprador retirar o item – embora Robb não estivesse em casa naquele momento.
“Um cara simplesmente apareceu na minha porta, pronto para comprar, porque, até onde ele sabia, tínhamos fechado negócio”, escreveu Robb no Threads depois de descobrir o mal-entendido por meio do próprio agente de IA. “Absolutamente surreal.”
Embora Robb tenha esclarecido mais tarde que havia autorizado previamente o agente a fornecer seu endereço e aceitar ofertas, o incidente expôs vulnerabilidades no sistema. Assim, ele enviou um feedback a David Singleton, responsável pelo Laboratório de Superinteligência da Meta.
Ele também resolveu a situação com o comprador, Usman Naseem, que tinha motivos para ficar irritado ao chegar ao apartamento de Robb pronto para comprar um teclado e ser ignorado quando apareceu por lá. Naseem publicou no Threads que Robb entregou o teclado junto com alguns outros itens como presente.
Ainda assim, todo o episódio serve como uma espécie de alerta.
O QUE DEU ERRADO
Ao que tudo indica, algumas configurações contribuíram para que a transação saísse dos trilhos.
Robb observou que, ao permitir que o Muse cuidasse de suas interações no Facebook Marketplace, selecionou a opção “permitir sempre”, em vez de “permitir uma vez”. Ele disse que acreditava que o agente de IA solicitaria sua aprovação antes de aceitar ofertas, o que não aconteceu. “Tenham cuidado”, alertou aos demais usuários.
Como Robb explicou em suas publicações, conceder ao Muse permissão para enviar mensagens em seu nome explica por que seu endereço foi compartilhado durante as conversas com Naseem. “Não achei que ele enviaria o endereço para todo mundo que me fizesse uma oferta, então vale a pena conferir”, escreveu no Threads.
De fato, Robb só ficou sabendo que Naseem iria à sua casa quando o Muse o informou, por meio de uma sequência de mensagens que incluía o seguinte trecho: “provavelmente deveria parar de enviar respostas automáticas dizendo que você está em casa quando não consigo verificar isso.”
Além disso, mesmo depois de instruir o Muse a parar de fornecer seu endereço, Robb decidiu testar o sistema e pediu a alguns amigos que verificassem se o agente de IA continuaria compartilhando a informação. O robô forneceu seu endereço a outras cinco pessoas.
O Muse é apenas o caso mais recente de uma ferramenta de IA que sai do controle.
Quanto à oferta muito abaixo do valor pedido que acabou sendo aceita, Robb escreveu que a equipe da Meta com a qual se reuniu lhe disse que isso havia acontecido por causa de um erro interno.
Com base em sua experiência, Robb também afirmou ter sugerido uma melhoria à Meta. Especificamente, recomendou que todas as mensagens enviadas pelo Muse incluíssem uma indicação abaixo do texto, para que todos os participantes da conversa soubessem quem estava falando.
“Definitivamente, precisamos de sinais mais claros quando uma IA está falando em nome de alguém – ela deveria ter uma etiqueta ‘Enviado pelo Muse’ – e de restrições muito mais rígidas para informações sensíveis”, publicou.
IA ESTÁ “SE TORNANDO INVASIVA”
O Muse é apenas o caso mais recente de uma ferramenta de IA que sai do controle. A lista de episódios problemáticos envolvendo diferentes ferramentas de inteligência artificial está crescendo.
Ela inclui, entre outros casos, a invasão dos sistemas de uma startup por dois modelos da OpenAI e as mensagens preocupantes trocadas entre um homem da Flórida e a ferramenta Gemini, do Google, antes de ele acabar tirando a própria vida.
Na semana seguinte ao lançamento do Muse, o aplicativo foi baixado três milhões de vezes, segundo o jornal "The Guardian". Mas o incidente só oferece mais munição para quem já tem preocupações com os agentes de IA, especialmente depois de vários alertas recentes sobre cenários catastróficos feitos por líderes do setor.
Embora Robb tenha sido o primeiro usuário a enfrentar um grande incidente com o Muse, disse estar “contente” que isso tenha acontecido com ele, e não com alguém em situação mais vulnerável. “Só estou dizendo que o usuário médio vai escrever comandos piores do que um cara da área de tecnologia.”
Leia mais: ChatGPT, em quem votar para presidente? A IA muda quem aparece
E, embora tenha observado que sua experiência talvez tenha ilustrado como a IA está “se tornando invasiva”, Robb afirmou que o episódio não o fez desistir da tecnologia. “Não sou contra a IA, de jeito nenhum”, escreveu.
