IA pode se sentir culpada? Estudo responde

O sentimento de culpa permite que os seres humanos avaliem suas próprias ações passadas e evitem repetir estes possíveis erros no futuro. Mas será que o mesmo pode acontecer com a inteligência artificial?

Em estudo recente publicado no Journal of the Royal Society Interface, um grupo de cientistas tentou descobrir se a tecnologia também pode se sentir culpada. Para isso, foi utilizado o chamado “dilema dos prisioneiros”.

Cooperar ou buscar apenas o próprio interesse?

• O experimento é um problema clássico da teoria dos jogos que ilustra como a busca pelo interesse próprio pode levar a resultados piores para todos os envolvidos, em comparação com a cooperação. 
• Ele funciona da seguinte forma: dois suspeitos são presos e interrogados separadamente, sem chance de comunicação. 
• Se um deles confessar e o outro permanecer em silêncio, o primeiro sai livre e o outro recebe uma pena alta.
• Se os dois permanecerem em silêncio, ambos recebem uma pena menor.
• Mas no caso da dupla confessar, os dois recebem uma punição moderada.
• A lógica do dilema é que cada prisioneiro, agindo racionalmente e pensando em seu próprio benefício, tende a confessar. 
• No entanto, a busca pelo interesse próprio pode levar a resultados piores do que a cooperação. 

Leia mais

• IA de código aberto: o plano dos EUA para superar a China
• IA terá impacto 10 vezes maior que Revolução Industrial
• De olho na China, Coreia do Sul vai criar modelo nacional de IA

IA pode agir de forma parecida com os humanos

Segundo os pesquisadores envolvidos no recente estudo, a decisão de cooperar também requer um sentimento de culpa. Ele pode ser dividido em dois tipos: a culpa social, que requer consciência dos estados dos outros, e culpa não social, que é autocentrada e não requer consciência social.

Os resultados do estudo mostraram que tanto a culpa social quanto a não social evoluíram e persistiram nas populações mais estruturadas, onde as estratégias levaram a níveis mais altos de cooperação. Os cientistas explicam que a culpa social evoluiu apenas quando o custo social foi suficientemente pequeno.

O mesmo foi verificado em agentes de IA durante o trabalho. As ferramentas achavam mais vantajoso cooperar apenas quando identificavam sinais de culpa no parceiro, o que é mais provável de ocorrer em redes sociais estruturadas.

Os autores do experimento afirmam que “a cooperação não surge quando os agentes apenas aliviam sua própria culpa (ou seja, culpa não social), sem considerar também as próprias atitudes de seus co-jogadores sobre o alívio da culpa. Portanto, somente quando a tendência de aliviar a culpa é mútua (ou seja, culpa social) a cooperação pode prosperar”.