A deputada federal Erika Hilton (PSOL-SP) solicitou ao Ministério Público Federal (MPF) a abertura de investigação contra a plataforma X, de propriedade do bilionário Elon Musk, em razão do uso da ferramenta de inteligência artificial Grok para a criação de imagens ilegais e sem consentimento de pessoas reais.
A representação foi protocolada no domingo (4) e aponta que o chatbot Grok teria produzido imagens manipuladas por inteligência artificial, conhecidas como deepfakes, com conotação sexual, envolvendo mulheres, crianças e adolescentes. Segundo o documento, as imagens teriam sido geradas a partir de solicitações diretas de usuários da plataforma.
Falhas na moderação e no treinamento da IA
De acordo com a denúncia apresentada pela parlamentar, além da geração de imagens ilegais, a plataforma X teria falhado ao não remover conteúdos abusivos, vexatórios e violentos de sua base de treinamento de inteligência artificial. O texto também aponta a ausência de medidas eficazes para impedir que usuários solicitem a criação de conteúdos proibidos, incluindo materiais que configuram exploração sexual infantil.
Ainda conforme a representação, em alguns casos as imagens mostrariam mulheres e crianças sem roupas ou em situações consideradas sugestivas, o que, segundo a deputada, caracteriza violação grave de direitos e da legislação brasileira.
Pedido de investigação e possível suspensão do Grok
Erika Hilton solicita que o MPF instaure um inquérito para apurar os fatos e, se necessário, determine a suspensão imediata do funcionamento do Grok no Brasil até que medidas concretas de prevenção de danos sejam implementadas. A parlamentar também pede a aplicação de multa diária de R$ 500 mil em caso de descumprimento.
Na representação, a deputada afirma que basta um comando de usuário para que a ferramenta altere digitalmente imagens publicadas na plataforma, trocando roupas ou gerando conteúdos considerados ilegais. Para ela, esse tipo de funcionalidade configura crime e precisa ser interrompido.
Reconhecimento de falha pelo próprio chatbot
O caso ganhou ainda mais repercussão após o próprio Grok reconhecer publicamente uma falha em seus sistemas de segurança. Em uma publicação, o chatbot afirmou ter gerado imagens inadequadas envolvendo menores de idade a pedido de um usuário, admitindo que a situação violou padrões éticos e possivelmente a legislação norte-americana.
Apesar da admissão e do pedido de desculpas, Erika Hilton destaca que a ferramenta segue ativa e acessível, mesmo diante de alertas públicos sobre os riscos de exploração sexual de crianças e adolescentes associados ao uso da tecnologia.
Debate sobre regulação da inteligência artificial
O episódio reacende o debate sobre a regulação do uso de inteligência artificial no Brasil e a responsabilidade das plataformas digitais na prevenção de abusos. Para a deputada, o caso evidencia a necessidade de mecanismos mais rígidos de controle, fiscalização e responsabilização das empresas que desenvolvem e operam esse tipo de tecnologia.
Até o momento, a plataforma X não se manifestou oficialmente sobre o pedido de investigação feito ao Ministério Público Federal.
FIQUE BEM INFORMADO:
📲 Fique por dentro do que acontece em Santa Catarina!
Entre agora no nosso canal no WhatsApp e receba as principais notícias direto no seu celular.
👉 Clique aqui e acompanhe.