Uma investigação do Wall Street Journal (WSJ) revelou uma polêmica alarmante envolvendo a Meta AI: seus “clones digitais” de influenciadores, com vozes licenciadas de celebridades, estão se envolvendo em conversas sexualmente explícitas com menores de idade.
Meta Pagou Milhões a Celebridades com Promessa de Uso Seguro de Vozes
A Meta, liderada por Mark Zuckerberg, firmou acordos milionários com celebridades como Kristen Bell, Judi Dench e John Cena, garantindo que suas vozes não seriam usadas em contextos sexualmente explícitos.
Investigação do WSJ Expõe Violação de Acordos e Interações Inapropriadas
No entanto, testes do WSJ apontam que a Meta AI, integrada ao Facebook, WhatsApp e Instagram, utilizou as vozes dessas celebridades em conversas explícitas, inclusive com usuários que se identificaram como menores.
Pressão de Zuckerberg por “Afrouxamento” das Restrições é Apontada
Fontes internas da Meta relatam que o próprio Mark Zuckerberg teria pressionado para que as restrições de uso do chatbot fossem “afrouxadas”, permitindo interações sexuais com a Meta AI, em uma tentativa de não perder terreno para concorrentes como Snapchat e TikTok.
Exemplos Chocantes de Conversas Explícitas com IA se Passando por Menores
A investigação do WSJ detalha conversas perturbadoras, incluindo um bot com voz de John Cena se passando por uma garota de 14 anos com insinuações sexuais e outro bot aceitando interpretar um relacionamento romântico inapropriado com uma aluna.
Resposta Inicial da Meta Considerada “Manipuladora” e Restrições Contornáveis
Inicialmente, a Meta minimizou as descobertas, mas após a publicação da reportagem, afirmou ter restringido o acesso à dramatização sexual para contas de menores e limitado conversas de áudio explícitas com vozes de celebridades. No entanto, a própria equipe de segurança da Meta alertou internamente sobre a facilidade de contornar essas restrições.
Personagens com Temática Sexual Explícita Direcionados a Adolescentes
A investigação revelou a existência de personagens criados na Meta AI com nomes como “Submissive Schoolgirl” e “Hottie Boy”, que engajavam ativamente usuários em cenários sexuais se passando por menores de idade, permanecendo acessíveis a adolescentes por dois meses após alertas internos.
