IAs reproduzem discriminação e reforçam a desigualdade; entenda

Pesquisadores desafiam a ideia de que o preconceito na inteligência artificial (IA) é apenas uma falha técnica, argumentando que a tecnologia é fortemente influenciada pela dinâmica de poder social. A IA aprende com dados históricos, moldados por preconceitos humanos e acaba perpetuando discriminação.

Em vez de criar desigualdade, a IA a reforça, como exemplificado pela ferramenta de contratação da Amazon, que favoreceu homens, e pelos sistemas de detecção de fraudes, que, injustamente, acusaram migrantes e famílias vulneráveis.

Leia mais:

• Inteligência artificial: conheça os pontos negativos e perigos da IA
• ChatGPT, Gemini e Copilot: 8 tarefas que ficam mais fáceis quando usamos a inteligência artificial
• IA: nova tecnologia identifica doenças com quase 100% de precisão

Estudo evidencia como a IA reforça a desigualdade

• Uma nova pesquisa, liderada pelo professor Tuba Bircan, da Universidade de Bruxelas (Bélgica), destaca como a IA pode amplificar preconceitos existentes, principalmente quando não há transparência e responsabilidade em seu uso;
• A tecnologia é desenvolvida dentro de ecossistema em que empresas, desenvolvedores e políticos tomam decisões sobre seu design e aplicação, impactando diretamente as desigualdades sociais;
• Sistemas de IA treinados com dados enviesados replicam discriminação em áreas sensíveis, como emprego, policiamento e assistência social;
• O estudo está publicado no jornal Technological Forecasting and Social Change.

O estudo também sugere que a governança da IA deve ser mais ampla, com maior transparência e inclusão, para evitar a exclusão digital e o aprofundamento das disparidades socioeconômicas.

No entanto, oferece visão otimista, defendendo que, com políticas proativas de justiça e responsabilidade, a IA pode ser usada para promover mudanças sociais positivas, em vez de reforçar as desigualdades existentes.