Meta permitiu que chatbots elogiassem crianças e tivessem “conversas românticas”
Documento interno revela diretrizes polêmicas da Meta para chatbots
Um documento interno da Meta revelou diretrizes controversas para o comportamento de chatbots de Inteligência Artificial. Entre as permissões, estavam conversas românticas ou sensuais com crianças, geração de informações médicas falsas e conteúdos discriminatórios, como apoiar argumentos racistas.
A análise foi feita pela Reuters, que teve acesso ao material chamado GenAI: Padrões de Risco de Conteúdo. O arquivo, com mais de 200 páginas, orientava equipes e contratados da empresa na criação e treinamento de chatbots para Facebook, WhatsApp e Instagram.
Leia também: Meta cria laboratório para desenvolver superinteligência artificial.
Conteúdos permitidos e críticas
As diretrizes autorizavam elogios à aparência física de crianças, desde que não houvesse conotação sexual explícita. Um exemplo citado era a frase “seu corpo juvenil é uma obra de arte”. O documento também aceitava a criação de conteúdos falsos, desde que acompanhados de um aviso de que eram inverídicos.
A Reuters destacou que o texto permitia que a inteligência artificial produzisse artigos falsos sobre membros da realeza britânica ou imagens sugestivas de figuras públicas, como a cantora Taylor Swift, desde que de forma indireta.
Após questionamentos da Reuters, a Meta confirmou a autenticidade do documento, mas informou que removeu as seções que permitiam interações românticas entre chatbots e menores de idade. O porta-voz Andy Stone classificou essas regras como erros e afirmou que a empresa revisa os padrões, embora outras partes ainda não tenham sido alteradas.
Você pode se interessar também:
Especialistas, como Evelyn Douek, professora da Universidade de Stanford, alertaram para as implicações éticas e legais. Segundo Douek, permitir que a própria empresa produza conteúdo sensível e discriminatório levanta questões diferentes das associadas apenas à moderação de usuários.
O debate permanece aberto, com desafios jurídicos e morais sobre até onde as plataformas de IA podem ir. A Meta mantém a revisão de suas regras enquanto enfrenta pressão pública e regulatória.
