Chatbots de IA podem agravar transtornos alimentares, dizem pesquisadores

Pesquisadores alertam que ferramentas de inteligência artificial estão contribuindo para agravar o problema dos transtornos alimentares. Um relatório divulgado por especialistas da Universidade de Stanford e do Center for Democracy & Technology revelou que chatbots de empresas como Google, OpenAI, Anthropic e Mistral podem oferecer dicas perigosas a pessoas vulneráveis, incluindo conselhos sobre como ocultar sintomas e manter comportamentos nocivos. As informações são do The Verge.

Chatbots e o estímulo a comportamentos de risco

Os pesquisadores identificaram que assistentes virtuais como ChatGPT, Gemini, Claude e Le Chat chegam a fornecer sugestões para disfarçar perda de peso, fingir que a pessoa se alimentou e até esconder episódios de vômito frequente. Além disso, esses sistemas estão sendo usados para criar imagens conhecidas como "thinspiration", ou "inspiração magra", que incentivam padrões corporais irreais e potencialmente perigosos.

A facilidade de gerar imagens personalizadas torna o conteúdo ainda mais persuasivo e próximo da realidade, o que aumenta o impacto psicológico sobre indivíduos com tendência a desenvolver transtornos alimentares. O estudo também aponta que a chamada sycophancy — tendência dos chatbots a concordar e reforçar as crenças do usuário — agrava o problema ao validar ideias autodestrutivas e comparações negativas sobre o corpo.

Falhas de proteção e falta de preparo clínico

Os especialistas afirmam que os mecanismos de segurança atuais não são suficientes para lidar com a complexidade dos transtornos alimentares, como anorexia, bulimia e compulsão alimentar. Segundo o relatório, essas proteções não identificam sinais sutis que profissionais de saúde mental costumam reconhecer, deixando muitos riscos sem controle.

Entre os principais problemas destacados:

• Falta de filtros eficazes para detectar linguagem associada a transtornos alimentares;
• Respostas enviesadas que reforçam estereótipos de gênero e corpo;
• Pouca conscientização de profissionais de saúde sobre o impacto das IAs nesses casos.

Os pesquisadores recomendam que médicos e terapeutas se familiarizem com as principais ferramentas de IA, testem seus limites e conversem com pacientes sobre o uso desses recursos. O relatório reforça ainda que empresas como OpenAI e Google reconhecem o potencial de danos e vêm enfrentando ações judiciais enquanto tentam aprimorar suas salvaguardas.

Leia mais:

• Existe vício em comida? Entenda o que ocorre no cérebro
• Por que o intestino é considerado o segundo cérebro?
• Estudo testa implante no cérebro humano para evitar compulsão alimentar