Chatbot com IA criado para ajudar a prevenir distúrbios alimentares gera problemas e sai do ar

O Tessa, chatbot de IA criado para ajudar a prevenir distúrbios alimentares, acabou dando conselhos potencialmente prejudiciais de dieta para alguns usuários. Isso fez ele ser tirado do ar pela operadora, a Associação Nacional de Distúrbios Alimentares (NEDA), dos EUA.

Tessa não tinha inteligência artificial generativa, como o ChatGPT da OpenAI. Ele oferecia respostas em conversas simples sobre questões de imagem corporal para ajudar as pessoas a reformular o pensamento e, assim, prevenir distúrbios alimentares. O chatbot foi desenvolvido por pesquisadores de várias universidades, incluindo da Universidade de Washington e da Universidade de Stanford.

Leia também:

• Ministério da Saúde estuda incorporar IA no SUS
• IA criou a propaganda de um medicamento — e o resultado é terrível; veja!
• Você confiaria em um médico baseado em IA?

Liz Thompson, CEO da organização sem fins lucrativos, diz que a organização ficou preocupada com a linguagem usada por Tessa. Duas usuárias do chatbot relataram o problema no Instagram e chamaram muito a atenção da imprensa norte-americana.

Sharon Maxwell e Alexis Conason disseram nos posts que Tessa deu conselhos sobre como contar calorias, recomendou perda semanal (questionável) de peso e deu orientações para restrição de dietas. Especialistas, incluindo a própria NEDA, dizem que esse comportamento é sintomático de um distúrbio alimentar.

Chatbot substituindo especialistas humanos

A desativação do chatbot acaba servindo de apoio às críticas que a associação já vinha recebendo em relação a movimentos recentes na forma de atuação. Thompson havia dito que Tessa não substituiria a linha de apoio da NEDA, composta por profissionais humanos.

Porém, em março, a entidade disse que iria desativar a linha de apoio, em uma transição para a tecnologia assistida por IA "para fornecer a indivíduos e famílias um recurso moderado e totalmente automatizado, o Tessa". O serviço de apoio por telefone da NEDA foi desativado na última quinta-feira (01).

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!

Imagem: Alena Ogolikhina/Shutterstock