Grok passa a cobrar por geração de imagens após denúncias de uso abusivo

O Grok, chatbot de inteligência artificial (IA) da xAI atrelado ao X/Twitter (ambas empresas de Elon Musk), passou a exigir assinatura premium para liberar funções de geração e edição de imagens. E a mudança não veio por acaso. Ela ocorre após uma onda de críticas sobre o uso da ferramenta para criar imagens sexualizadas de pessoas sem consentimento, incluindo mulheres e crianças.

A decisão da xAI tenta frear abusos que colocaram a plataforma no centro de um debate global sobre limites, responsabilidade e proteção de direitos. E o pano de fundo é uma crise mais profunda.

A facilidade técnica do Grok permitiu manipulações fotorealistas de fotos reais, usadas para remover roupas, distorcer contextos e gerar desde deepfakes de figuras públicas até material associado a crimes graves.

Com investigações abertas no Reino Unido e na União Europeia, o caso expõe uma tensão conhecida, mas cada vez mais aguda: a corrida pela IA avança mais rápido do que os mecanismos de proteção a quem está do outro lado da tela.

Restrição de acesso a geração de imagens no Grok é resposta ao uso abusivo da IA

A nova regra foi anunciada de forma direta pela página do próprio Grok no X: geração e edição de imagens agora ficam restritas a assinantes pagos.

▶ Ver publicacao no X (Twitter)

A xAI não apresentou a medida como solução definitiva, mas como uma resposta ao desgaste público e à pressão institucional. Na prática, o paywall funciona como uma tentativa de reduzir o uso indiscriminado da ferramenta enquanto a empresa tenta reorganizar suas salvaguardas.

O estopim foi o tipo de solicitação que começou a circular com facilidade. Usuários passaram a pedir alterações para substituir roupas por lingerie ou biquínis e a gerar imagens com expressões de medo ou submissão. Reguladores e organizações civis apontaram que o padrão dessas manipulações indicava um uso sistemático voltado à humilhação e à exploração da imagem de terceiros.

Esse cenário ganhou força após atualizações recentes no Grok, que simplificaram a edição de imagens enviadas pelos próprios usuários. O ponto crítico: as mudanças permitiam alterações profundas sem qualquer notificação ou consentimento das pessoas retratadas. A barreira técnica caiu e com ela caiu também o custo (em tempo, esforço e conhecimento) para produzir material abusivo.

As consequências atingiram pessoas reais. Relatos confirmados incluem a manipulação recorrente de imagens de Ashley St. Clair, influenciadora e mãe de um dos filhos de Elon Musk, além de casos envolvendo atrizes mirins, com fotos antigas alteradas e redistribuídas online. Um levantamento da AI Forensics, que analisou 20 mil imagens geradas em uma semana, identificou um padrão claro: pedidos repetidos para "remover roupas" de mulheres jovens.

Pressão de reguladores internacionais coloca 'brinquedos' de Musk sob vigilância

O avanço do uso abusivo do Grok acionou alertas formais. No Reino Unido, o Ofcom, regulador de comunicações, informou ter contatado o X após identificar "sérias preocupações" envolvendo imagens sexualizadas de crianças geradas com apoio do Grok. O órgão tem poderes para aplicar multas bilionárias e até restringir o acesso à plataforma no país.

O alerta mais grave veio da Internet Watch Foundation (IWF). A organização alertou que o Grok passou a ser citado em fóruns da dark web como ferramenta para a produção de material de abuso sexual infantil. Analistas da entidade identificaram imagens envolvendo crianças de 11 a 13 anos, enquadradas como crime gravíssimo pela legislação britânica. O problema, segundo a IWF, não se limita à origem das imagens, mas ao papel da IA como facilitadora.