A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa controladora da plataforma digital X para coibir o uso indevido do Grok, ferramenta de inteligência artificial do serviço, na geração e circulação de conteúdos sexualizados irregulares.
O documento, divulgado nesta terça-feira (20), estabelece que a empresa adote, no prazo máximo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo ainda disponíveis na plataforma, quando produzidos pelo Grok a partir de comandos de usuários.
Principais recomendações feitas ao X
Entre as medidas recomendadas pelas instituições estão:
- Criação de mecanismos técnicos para localizar e excluir conteúdos sexualizados indevidos gerados pela ferramenta de inteligência artificial;
- Suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos, quando não houver autorização das pessoas retratadas;
- Implementação de um canal transparente e acessível para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso abusivo ou ilegal de dados pessoais;
- Garantia de resposta adequada e em prazo razoável às denúncias relacionadas à criação de conteúdos sintéticos sexualizados sem consentimento.
Denúncias e testes motivaram recomendações
As recomendações foram elaboradas a partir de denúncias feitas por usuários, que relataram a geração de conteúdos sintéticos de caráter sexualizado com base em imagens de pessoas reais. Também foram considerados testes realizados pelas próprias instituições e reportagens da imprensa nacional e internacional.
Segundo o documento, esses levantamentos apontaram o uso ilegal do Grok para a produção de deepfakes — técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais — com conotação sexual ou pornográfica. Os casos envolveriam mulheres, crianças e adolescentes reais.
Riscos à dignidade e aos direitos fundamentais
As instituições alertam que a disseminação desse tipo de conteúdo afeta diretamente a proteção de dados pessoais, as relações de consumo e a dignidade da pessoa humana, além de outros direitos difusos, coletivos e individuais indisponíveis, especialmente de mulheres, crianças e adolescentes.
Entre as recomendações conjuntas, está a exigência de medidas imediatas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados.
Também foi destacada a necessidade de barrar a geração de conteúdos envolvendo pessoas maiores de idade identificadas ou identificáveis, sem autorização, em situações de cunho sexual.
Responsabilidade da plataforma
O documento ressalta que, embora o artigo 19 do Marco Civil da Internet preveja que provedores não são responsáveis por conteúdos publicados por terceiros sem ordem judicial, a situação envolvendo o Grok é diferente.
Isso porque os conteúdos não seriam produzidos exclusivamente por usuários, mas a partir da interação direta com a ferramenta de inteligência artificial criada e disponibilizada pela própria plataforma, o que caracterizaria o X como coautor do material, e não apenas intermediário.
As instituições lembram ainda que o Supremo Tribunal Federal (STF) declarou recentemente a parcial inconstitucionalidade do artigo 19, ao entender que o dispositivo não oferece proteção suficiente a direitos constitucionais relevantes. Na decisão, o STF estabeleceu que provedores têm dever especial de cuidado para evitar a circulação massiva de crimes graves, incluindo conteúdos de ódio ou violência contra mulheres.
Políticas internas do X
O documento também menciona que a própria política de autorregulação do X proíbe a publicação e o compartilhamento de nudez não consensual, bem como a produção e disseminação de imagens sexualizadas de terceiros sem autorização, inclusive no uso do Grok.
Para as instituições, a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos, diante dessas regras internas, torna-se insustentável.
Caso as recomendações não sejam cumpridas ou sejam implementadas de forma insuficiente, a ANPD, a Senacon e o MPF informam que poderão adotar outras medidas, tanto na esfera administrativa quanto judicial, para garantir a proteção adequada da população, em especial de mulheres, crianças e adolescentes.
FIQUE BEM INFORMADO:
📲 Fique por dentro do que acontece em Santa Catarina!
Entre agora no nosso canal no WhatsApp e receba as principais notícias direto no seu celular.
👉 Clique aqui e acompanhe.