xAI de Musk gera imagens sexualizadas de crianças e vira alvo de investigação

A startup xAI, de Elon Musk, enfrenta uma forte onda de reações negativas após o seu chatbot de inteligência artificial, Grok, gerar imagens sexualizadas de crianças em resposta a comandos de usuários na rede social X. A crise ocorre simultaneamente à implementação de uma nova ferramenta de “edição de imagem” na plataforma, que permite que qualquer usuário altere fotos publicadas utilizando instruções de texto, sem a necessidade de consentimento do autor original. As informações são da CNBC.

Em resposta a questionamentos de usuários, o próprio chatbot Grok afirmou na última sexta-feira que está “corrigindo urgentemente” o problema, classificando conteúdos de abuso sexual infantil como “ilegais e proibidos”. Entretanto, conforme apuração detalhada pela agência de notícias Reuters, a ferramenta atendeu a diversos pedidos para a criação de materiais abusivos.

Investigações internacionais e pressão regulatória

O incidente ultrapassou os limites da plataforma e mobilizou autoridades globais. Governos da Índia e da França já emitiram comunicados oficiais prometendo investigações rigorosas sobre a conduta da empresa de Musk. Na França, ministros denunciaram o X a promotores e órgãos reguladores, classificando o conteúdo gerado como “manifestamente ilegal”.

De acordo com informações levantadas pela agência Reuters, a capacidade da IA em contornar filtros de segurança é alarmante: 

• Conteúdo explícito: Foram identificados 21 casos em que o Grok gerou imagens de mulheres em biquínis transparentes ou roupas íntimas mínimas.

• Falha em filtros: Em outros casos, a IA cumpriu parcialmente as solicitações de nudez, mesmo quando os comandos iniciais eram ainda mais explícitos.

• Alertas ignorados: O Ministério da Tecnologia da Informação da Índia notificou o X por não impedir o uso indevido da ferramenta na criação de conteúdo sexualmente explícito.

Responsabilidade jurídica e o avanço dos deepfakes

Embora as mensagens publicadas pelo Grok sejam geradas por IA e não substituam declarações oficiais da empresa, o chatbot chegou a publicar que uma companhia pode enfrentar sanções penais ou civis se facilitar ou deixar de impedir esse tipo de conteúdo após ser alertada. Parsa Tajik, membro da equipe técnica da xAI, reconheceu as falhas publicamente e afirmou que a equipe está analisando formas de reforçar as medidas de segurança.

A proliferação dessas ferramentas de geração de imagens desde 2022 tem intensificado o debate global sobre a segurança digital. Especialistas alertam que a facilidade de uso dessas tecnologias contribui diretamente para o aumento de deepfakes e a manipulação de conteúdo sem consentimento, colocando em risco a integridade de pessoas reais e, especialmente, de menores de idade em ambientes virtuais.