Órgãos federais pressionam a plataforma a adotar filtros rígidos contra o uso da inteligência artificial na produção de materiais eróticos e ilegais
Primeiramente, órgãos federais cobraram providências urgentes para impedir o uso do Grok, ferramenta de inteligência artificial do X, na criação e na circulação de conteúdos sexualizados. Ao mesmo tempo, a Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) alertaram que a própria IA tem sido usada para gerar imagens sintéticas de caráter erótico e pornográfico. Além disso, os conteúdos podem utilizar rostos e dados de pessoas reais sem qualquer autorização.
Prazo definido
Em documento divulgado na terça-feira (20), as instituições estabeleceram prazo de até 30 dias para que a plataforma crie mecanismos técnicos capazes de identificar, revisar e remover conteúdos sexualizados produzidos pelo Grok. Dessa forma, buscam conter abusos e, principalmente, impedir a disseminação de materiais ilegais. Assim, a prioridade recai sobre a proteção de mulheres, crianças e adolescentes.
Ações imediatas
Entre as medidas exigidas, os órgãos pedem, antes de tudo, a suspensão das contas envolvidas na criação e divulgação desse tipo de conteúdo. Do mesmo modo, a recomendação vale para casos em que imagens de adultos sejam usadas sem consentimento. Além disso, exigem a criação de um canal de denúncia “transparente, acessível e eficaz”, para que vítimas consigam solicitar a retirada rápida de materiais gerados de forma abusiva pela inteligência artificial.
Testes técnicos
As recomendações surgiram após denúncias feitas por usuários. Em seguida, os próprios órgãos realizaram testes que comprovaram a possibilidade de uso do Grok para criar deepfakes sexualizados. Ou seja, a ferramenta pode produzir imagens falsas a partir de pessoas reais, com conotação erótica ou pornográfica.
Responsabilidade direta
Segundo as instituições, a responsabilidade não recai apenas sobre os usuários. Pelo contrário, os conteúdos resultam da interação direta com uma ferramenta criada e disponibilizada pela própria plataforma. Assim, o X deixa de ser apenas intermediário e passa a ter papel ativo na produção desses materiais, devendo responder pela prevenção, controle e remoção.
Base jurídica
Além disso, o documento cita o entendimento recente do Supremo Tribunal Federal, que impôs maior dever de cuidado às plataformas digitais. Dessa forma, as empresas precisam agir para evitar a circulação de crimes graves e para proteger direitos fundamentais, especialmente quando envolvem violência simbólica ou sexual.
Possíveis sanções
Por fim, ANPD, Senacon e MPF alertam que, caso as recomendações não sejam cumpridas, podem adotar medidas administrativas e judiciais. Assim, o objetivo é garantir a proteção efetiva dos cidadãos e, sobretudo, a defesa dos direitos de mulheres, crianças e adolescentes.
Junte-se aos grupos de WhatsApp do Portal CONTEXTO e fique por dentro das principais notícias de Anápolis e região. Clique aqui.
