Como um chatbot pode mudar sua opinião política sem você perceber
Pesquisadores da Universidade de Washington investigaram como vieses políticos em chatbots de IA influenciam a opinião dos usuários.
Pesquisadores da Universidade de Washington investigaram como vieses políticos em chatbots de IA influenciam a opinião dos usuários.
No estudo, 299 voluntários — divididos entre democratas e republicanos — formaram opiniões sobre temas políticos pouco conhecidos e decidiram como distribuir recursos públicos fictícios, interagindo com três versões do ChatGPT: uma neutra, uma com viés liberal e outra conservadora.
O estudo foi publicado na revista ACL Anthology
O que a pesquisa revelou
- O resultado mostrou que, independentemente da filiação partidária, os participantes tendiam a adotar a inclinação do chatbot com que conversavam.
- Por exemplo, até republicanos se deslocaram mais à esquerda após interações com o modelo liberal.
- Já pessoas que declararam maior conhecimento sobre IA foram menos suscetíveis à mudança, sugerindo que a educação pode ajudar a reduzir a influência desses sistemas.
Leia mais:
- Chatbots estão nos agradando demais — e isso pode custar caro
- Como a inteligência artificial pode acelerar tarefas e otimizar o tempo no trabalho
- Por que IA é o pesadelo e a esperança da cibersegurança
Mudança de foco
Os bots tendenciosos alteravam o foco das conversas para reforçar sua posição — por exemplo, o modelo conservador priorizava veteranos e segurança, enquanto o liberal enfatizava educação e assistência social.A coautora Katharina Reinecke alerta que é fácil acentuar o viés de modelos já inclinados, dando grande poder a seus criadores. A equipe agora quer estudar efeitos de longo prazo e outros sistemas além do ChatGPT.
Para a autora principal, Jillian Fisher, o objetivo é permitir que usuários tomem decisões mais conscientes e pesquisadores desenvolvam formas de mitigar impactos indesejados. 
Fonte: Olhardigital
