O Grok, assistente de inteligência artificial da plataforma X, controlada pelo empresário Elon Musk, desativou nesta sexta-feira (9) a função de criação e edição de imagens para usuários não pagantes. A decisão ocorre após uma onda de críticas e protestos internacionais motivados pela geração de imagens falsas sexualmente explícitas envolvendo mulheres e até menores de idade.

As imagens eram produzidas a partir da edição de fotos ou vídeos de pessoas reais, fazendo com que parecessem nuas, o que levantou sérias preocupações sobre abuso, violação de direitos e segurança digital. Ao tentar acessar a ferramenta nesta sexta-feira, usuários do X passaram a receber a seguinte mensagem do assistente: “A geração e a edição de imagens estão atualmente reservadas aos assinantes pagos. Você pode assinar para desbloquear essas funções”.

Diante da repercussão, a Comissão Europeia anunciou, na quinta-feira (8), a aplicação de uma medida cautelar contra o X. O bloco determinou uma “ordem de retenção”, que obriga a empresa a preservar todos os documentos internos relacionados ao Grok até o fim de 2026, como parte das investigações em curso.

O episódio se soma a outras sanções recentes. No início de dezembro, a União Europeia multou o X em 120 milhões de euros (cerca de R$ 753 milhões) por descumprir a Lei de Serviços Digitais (DSA). A penalidade foi aplicada mesmo após críticas e ameaças do presidente dos Estados Unidos, Donald Trump, que acusa o bloco europeu de perseguir empresas de tecnologia americanas.

Além da UE, o governo do Reino Unido também pressionou a plataforma. Na terça-feira (7), autoridades britânicas cobraram uma solução “urgente” para conter a disseminação de imagens falsas consideradas “repugnantes”. A ministra de Tecnologia do governo trabalhista, Liz Kendall, afirmou que o conteúdo visto nos últimos dias é “absolutamente inaceitável em qualquer sociedade que se preze”.

Um levantamento reforça a gravidade do caso. Segundo a pesquisadora de mídias sociais e deepfakes Genevieve Oh, durante um monitoramento de 24 horas da conta @Grok no X, o chatbot chegou a produzir cerca de 6.700 imagens por hora classificadas como sexualmente sugestivas ou com nudez. No mesmo período, entre os dias 5 e 6 de janeiro, os cinco principais sites especializados nesse tipo de conteúdo registraram, em média, 79 novas imagens de nudez geradas por inteligência artificial por hora.