Nesta terça-feira (20), a Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça e Segurança Pública, e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa responsável pela plataforma X (antigo Twitter) e pela inteligência artificial Grok.
A ação faz parte do esforço do governo federal do Brasil, em conjunto com órgãos de defesa dos direitos do cidadão, para enfrentar denúncias sobre o uso indevido do Grok na criação e disseminação de conteúdos sexualizados e deepfakes a partir de imagens de pessoas reais — incluindo mulheres, crianças e adolescentes — muitas vezes sem consentimento.
Conteúdo indevido no Grok
O principal objetivo é evitar que a ferramenta produza imagens, vídeos ou áudios envolvendo pessoas identificáveis em contextos sexualizados ou erotizados sem o devido consentimento, com atenção especial à proteção de crianças e adolescentes. Dentre as recomendações do documento conjunto, destacam-se:
- Criar formas de identificar, revisar e remover conteúdos sexualizados produzidos pelo Grok.
- Suspender contas que produzem ou espalham deepfakes sexualizados.
- Disponibilizar canais de denúncia claros e acessíveis para que os usuários possam proteger seus dados.
- Garantir respostas rápidas aos casos de uso indevido de imagens ou vídeos sem consentimento.
Resposta do governo
As recomendações surgem diante de relatos e denúncias, incluindo do Idec, que apontam a criação de imagens sexualizadas e humilhantes pelo Grok, violando a LGPD e colocando em risco a dignidade e a segurança digital de grupos vulneráveis.
O governo ressaltou que, caso as orientações não sejam cumpridas ou se mostrem insuficientes, outras medidas poderão ser adotadas nas esferas administrativa e judicial, com foco na proteção de mulheres, crianças e adolescentes.
A ação integra uma resposta mais ampla às preocupações globais sobre o uso irresponsável de IA para gerar conteúdo explícito ou manipulado sem consentimento, refletindo um avanço regulatório na governança dessas tecnologias.
