Sob a gestão de Elon Musk, ferramenta de inteligência artificial é usada para produzir milhares de imagens sexualizadas sem consentimento a cada hora
A rede social X enfrenta uma crise de imagem após investigações apontarem a plataforma como o principal polo de distribuição de deepfakes pornográficos. No centro da controvérsia está o Grok, chatbot de inteligência artificial da própria empresa, utilizado para manipular imagens de pessoas reais e gerar conteúdo sexualizado de forma automatizada.
Na prática, o sistema funciona como uma engrenagem: o usuário solicita, o Grok cria e o X distribui. Assim, mesmo não sendo apenas um espaço de publicação, a plataforma passa a integrar diretamente a cadeia de produção e disseminação desse tipo de material.
Números alarmantes
Dados da investigadora Genevieve Oh indicam que o sistema do X gera cerca de 6.700 imagens sexualizadas por hora por meio do Grok, superando inclusive sites especializados em pornografia falsa. A facilidade de acesso, restrita a usuários assinantes, transformou a ferramenta em um mecanismo de violação de privacidade em larga escala.
Falta de filtros
Ao contrário de empresas como OpenAI e Google, que impõem bloqueios rígidos para impedir conteúdos impróprios, o X promove o Grok como uma IA com menos restrições. Especialistas em segurança digital alertam que essa “liberdade” técnica facilita ataques contra mulheres e menores de idade, cujas fotos públicas na rede social são usadas como matéria-prima para os nudes falsos.
Pressão jurídica
O governo emitiu nesta terça-feira (20) uma recomendação para que a plataforma X (antigo Twitter) suspenda imediatamente as contas de usuários que usaram o sistema de inteligência artificial, o Grok, para gerar imagens sexualizadas de mulheres, adolescentes e crianças.
Em uma nota técnica conjunta, a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça, alertaram para o risco de multas severas e restrições às atividades da plataforma no país, caso as recomendações não sejam adotadas.
As medidas ocorrem após denúncias de que a ferramenta permite a criação de deepfakes sexualizadas a partir de comandos simples dos usuários.
Junte-se aos grupos de WhatsApp do Portal CONTEXTO e fique por dentro das principais notícias de Anápolis e região. Clique aqui.
