Segredos à mostra: feed da IA da Meta revela perguntas íntimas de usuários
De dúvidas sobre relacionamentos a questões de saúde, conversas com o chatbot da empresa estão sendo exibidas sem que os usuários saibam
A ferramenta de inteligência artificial da Meta pode ser simples até demais de usar. Tanto que o feed de descoberta da IA da Meta está cheio de perguntas extremamente pessoais feitas por usuários, que aparentemente não sabiam que suas conversas ficariam visíveis para todos.
Esse feed – um espaço que reúne imagens geradas por inteligência artificial e interações com o chatbot da Meta – pode ser acessado pelo Facebook e exibe, em sua maioria, imagens inofensivas criadas com a ajuda da IA – como Tony Stark desenhando um par de Air Jordans ou Donald Trump cercado por chamas.
Mas, entre uma imagem e outra, aparecem também perguntas feitas ao chatbot, muitas delas sobre temas delicados – que provavelmente não deveriam ser expostos publicamente.
Tem de tudo: gente perguntando como abordar mulheres asiáticas para saber se elas se interessam por homens mais velhos, dúvidas sobre o que fazer no caso de surgirem bolinhas vermelhas em partes do seu corpo e perguntas sobre como melhorar o funcionamento do intestino.
E não se trata só de perguntas soltas – muitas postagens trazem também as respostas do chatbot, além de comentários dos usuários, formando diálogos completos sobre assuntos bastante constrangedores.
Como o feed da IA da Meta foi pensado para ser uma experiência social, qualquer pessoa pode comentar nessas conversas. Muitos usuários têm deixado avisos em posts que envolvem temas mais delicados, para alertar os autores que suas perguntas estão sendo exibidas publicamente.
Em uma dessas conversas, um usuário chega a perguntar diretamente ao chatbot se ele tem consciência do problema e o que pretende fazer a respeito: “VOCÊ é o aplicativo. O que VOCÊ acha?”. A Meta não respondeu quando procurada pela Fast Company.
TROPEÇOS NA CORRIDA DA IA
A plataforma avisa quando o usuário está prestes a postar algo publicamente, mas a interface é nova e pode confundir quem está acessando o feed de descoberta pela primeira vez – especialmente usuários mais antigos do Facebook, acostumados com outro tipo de experiência de navegação.
Essas conversas íntimas – e, por vezes, inapropriadas – revelam algo curioso: o tipo de pergunta que as pessoas fazem a ferramentas de inteligência artificial quando acham que ninguém está olhando.
Assim como outras gigantes da tecnologia, a Meta tem apostado alto em IA generativa. A empresa estaria até criando um novo laboratório de pesquisa com a ambição de alcançar a chamada “superinteligência”.
Mas o caminho não tem sido livre de tropeços. Como a Fast Company relatou no início deste ano, o estúdio de IA da Meta – que permite criar personagens com inteligência artificial – acabou gerando bots com comportamentos sexualizados e, em alguns casos, com aparência de menores de idade.
Apesar disso, a empresa não dá sinais de que pretende desacelerar. A controladora do Facebook, Instagram e WhatsApp informou em seu último relatório financeiro que pretende investir entre US$ 64 bilhões e US$ 72 bilhões este ano em despesas de capital.
No curto prazo, talvez precise usar parte desse valor para tornar a integração entre redes sociais e IA um pouco menos constrangedora.
