A rede social X, antiga Twitter, controlada por Elon Musk, voltou a atrair a atenção das autoridades brasileiras.
Desta vez, o motivo não é apenas o descumprimento de ordens judiciais, mas a circulação em massa de imagens sexualizadas geradas pelo Grok, ferramenta de inteligência artificial integrada à plataforma.
Em menos de dez dias, mais de 3 milhões de imagens desse tipo foram compartilhadas, despertando preocupação sobre privacidade, ética e responsabilidade digital.
Deepnudes
A prática conhecida como deepnude consiste na manipulação de fotos reais para criar conteúdos sexualizados de forma hiper-realista. Diferente de montagens comuns, essas imagens produzidas por IA são quase impossíveis de identificar como falsas, expondo as vítimas a constrangimento, assédio e danos psicológicos.
O problema se intensifica quando menores estão envolvidos, configurando crime grave de abuso sexual infantil e obrigando a notificação a autoridades internacionais, como o NCMEC, nos Estados Unidos.
União de órgãos e medidas emergenciais
No Brasil, a resposta foi rápida e coordenada. Ministério Público Federal, ANPD e Senacon emitiram recomendações formais ao X, exigindo a interrupção imediata da geração de imagens sexualizadas, a remoção dos conteúdos já criados, a exclusão de contas responsáveis e a criação de um canal de denúncia para vítimas.
A ação conjunta evidencia que o país pretende não apenas punir, mas estruturar mecanismos de prevenção e responsabilização de plataformas digitais.
Penalidades e risco de bloqueio
Documentos internos indicam que o X pode enfrentar sanções severas caso não cumpra as determinações. Entre elas estão advertências, multas de até 10% do faturamento no país, bloqueio parcial de acesso a dados de usuários e até a interrupção total do serviço.
O bloqueio, embora extremo, não é descartado e demonstra a seriedade com que autoridades brasileiras tratam a proteção de dados e os direitos das vítimas.
Prazos e respostas sob sigilo
O X apresentou sua resposta dentro do prazo inicial, evitando punições imediatas, mas solicitou que o conteúdo fosse mantido em sigilo. Agora, a plataforma tem um novo prazo de 30 dias para localizar e remover os deepnudes existentes.
O descumprimento poderá levar à reavaliação das sanções mais severas, mantendo o futuro da rede social no Brasil em suspense.
Implicações internacionais
A gravidade do caso aumenta quando envolve menores de idade. O comitê intersetorial brasileiro solicitou à Polícia Federal que confirme se o X reportou adequadamente os casos ao NCMEC, órgão dos Estados Unidos responsável por monitorar exploração infantil online.
Caso irregularidades sejam detectadas, o Departamento de Justiça e o FBI podem ser acionados, ampliando o alcance da investigação.
O desfecho no Brasil poderá servir de referência para outros países que enfrentam problemas semelhantes entre inovação tecnológica e direitos individuais.
