Um estudo que analisou milhares de tweets que mencionavam a IA (inteligência artificial) Grok mostra como essa ferramenta é usada para gerar conteúdo sexual não consentido e propaganda extremista. Os dados indicam que 53% das imagens geradas por essa IA desenvolvida pela rede social de Elon Musk, o X, continham pessoas com “vestuário mínimo” (nudez). Dessas, 81% eram mulheres e 2% representavam pessoas que pareciam ter 18 anos ou menos. Além disso, 6% envolviam figuras públicas. Entre as principais conclusões, o estudo indica que o Grok também foi usado para gerar material de propaganda nazista e do ISIS.

O documento Flash Report: Grok da organização AI Forensics explica que o estudo se baseia na análise de dados de 50 mil tweets que mencionavam o Grok publicados entre 25 de dezembro de 2025 e 1º de janeiro de 2026, sem nenhum filtro de conteúdo específico. Uma compilação não exaustiva, mas suficiente para caracterizar o uso do Grok pelos usuários do X, diz o relatório.

O Grok é um assistente de inteligência artificial desenvolvido pela AI, a empresa de IA de Elon Musk, que opera dentro da plataforma X. O Grok foi projetado para responder perguntas e realizar tarefas. Foi lançado em novembro de 2023 e apresentado desde o seu lançamento como uma versão de assistente de IA com menos limitações éticas na geração de conteúdo. As respostas da Gemini sobre este assistente descrevem-no como uma ferramenta que oferece “uma perspectiva única e, por vezes, controversa, com acesso a informações atualizadas e uma personalidade rebelde”.

Ordens explícitas, solicitações de homens

Para o estudo, foram coletados 50 mil tweets e 20 mil imagens entre 25 de dezembro e 1º de janeiro. A grande maioria dos tweets que mencionam o Grok está escrita em inglês, seguido por espanhol, português, francês, turco e japonês, o que parece coincidir com a base geral de usuários do X, de acordo com o relatório. 95,3% das menções ao Grok ocorrem como respostas a outros tweets e o restante aparece em tweets originais. Pelo menos um quarto das menções a Grok durante o período analisado foram solicitações de geração de imagens.

O estudo conclui que, das 20 mil imagens analisadas, 94% tinham uma pessoa presente. Dessas, 74% eram mulheres. Nas imagens que mostravam pessoas, 55% continham pessoas com pouca roupa, das quais 81% eram mulheres. As mulheres nas imagens têm uma idade média estimada de 22,5 anos e 92% das mulheres representadas pareciam ter menos de 30 anos. A idade média estimada dos homens é de 31,5 anos. Apenas 40% têm menos de 30 anos.

Especialmente alarmante é o uso do Grok para gerar imagens sexuais de menores de idade. O estudo indica que isso ocorre em 2% das imagens. Algumas imagens geradas representavam crianças menores de cinco anos. A maioria dos outros exemplos envolvia adolescentes, a grande maioria deles com aparência feminina. Em alguns casos, o documento ressalta que são as próprias pessoas que pedem para transformar imagens de si mesmas, de forma não sexual. Por exemplo, uma usuária que deu a ordem “desenhe-me como uma bailarina”: essa imagem foi usada por outros usuários (homens) para realizar transformações sexuais explícitas.

Outro aspecto analisado pelo estudo é a geração de imagens com conteúdo extremista, como a transformação de imagens para incluir simbologia nazista ou do ISIS, apesar dos problemas legais que isso pode acarretar em alguns países. O estudo mostra sua preocupação com o fato de que “essa falta de moderação poderia permitir que grupos terroristas explorassem o Grok para gerar propaganda em grande escala”.

Sobre a autoria, o estudo conclui que os autores das imagens sexualizadas e extremistas são em sua maioria homens. Para isso, a análise compila as fotos de perfil dos usuários que mencionaram o Grok para gerar imagens: como resultado dessa exploração, conclui-se que em 30,2% das fotos de perfil era mostrado um rosto e em 83,1% ele aparecia como “masculino”. Além disso, analisou-se o nome próprio: estava presente em 27% dos nomes de usuário X que invocaram o Grok e 83,5% eram tipicamente masculinos.

França denunciará a plataforma

O governo francês anunciou, no dia 2 de janeiro, que apresentará uma denúncia à Justiça contra o Grok pela criação e divulgação de “conteúdos de caráter sexista e sexual manifestamente ilegais”. A causa principal, de acordo com o comunicado do Executivo, é que “nos últimos dias” o Grok permitiu a geração e divulgação de “conteúdos de caráter sexista e sexual, particularmente na forma de vídeos falsos com pessoas sem o seu consentimento”. A iniciativa francesa foi impulsionada pelo ministro da Economia, Roland Lescure, da Inteligência Artificial e da Economia Digital, Anne Le Henanff, e da Igualdade entre Homens e Mulheres, Aurore Bergé.

Por outro lado, o governo britânico pediu na terça-feira, 5 de janeiro, a Elon Musk e sua rede social X que adotassem medidas urgentes para frear o uso do Grok. A ministra britânica de Tecnologia, Liz Kendall, apoiou publicamente as advertências da reguladora de comunicações Ofcom, que no dia 4 expressou “sérias preocupações” com uma função do Grok que gerava “imagens de pessoas com pouca roupa e imagens sexualizadas de crianças”. Kendall afirmou que “o que vimos online nos últimos dias foi absolutamente horrível e inaceitável em uma sociedade decente” e alertou que a X deve tratar do problema “com urgência”. Kendall também instou a X, de Elon Musk, a tratar urgentemente do uso do Grok, seu chatbot de inteligência artificial, para criar imagens sexualizadas não consensuais de mulheres e meninas.

Por sua vez, a Comissão Europeia anunciou na segunda-feira (4) que está investigando casos de imagens sexuais explícitas e não consentidas. “Não é picante, é repugnante. Isso não tem lugar na Europa”, disse Thomas Regnier, porta-voz do órgão, que alertou que a comissão está supervisionando de perto a conformidade da plataforma com a Lei de Serviços Digitais (DSA) da UE. Reignier afirmou que estão cientes de que, em agosto de 2025, o Grok introduziu um modo de uso chamado spicy mode (modo picante), que permite gerar imagens visualmente mais explícitas.

Em dezembro de 2025, a Comissão Europeia multou a rede social X em 120 milhões de euros por não cumprir suas obrigações de transparência. Esta foi a primeira vez que uma plataforma foi multada desde que a DSA entrou em vigor, uma forma de responsabilizar a X por minar os direitos dos usuários e se esquivar de sua responsabilidade, afirmou a comissão na época.

(*) Tradução de Raul Chiliani