Fraudes com recibos gerados por inteligência artificial disparam nas empresas

A inteligência artificial, obviamente, traz diversos benefícios para usuários e empresas.

A inteligência artificial, obviamente, traz diversos benefícios para usuários e empresas. Mas seria ingenuidade acreditar que ela seria usada apenas para o bem. Segundo matéria do The New York Times, empresas estão sendo enganadas por seus próprios funcionários, que utilizam modelos de IA para gerar falsos recibos de despesas.

O problema tomou tamanha proporção que as companhias estão atualizando seus sistemas para detectar quando os recibos foram criados por chatbots de IA, como o ChatGPT ou o Gemini.

Funcionários estão usando chatbots de IA para resgatar uma das fraudes mais antigas utilizadas: gerar recibos de despesas falsos. Imagem: tadamichi/Shuttterstock

Fraude causada pela IA, mas não por culpa dela

O problema surgiu logo após o lançamento de ferramentas capazes de gerar imagens realistas. O CEO da AppZen, Anant Kale, explica que começou a ver nas redes sociais diversos tutoriais ensinando como criar recibos falsos e percebeu o quanto era fácil.

Por isso, a empresa (responsável por auditar relatórios de despesas corporativas) começou a desenvolver ferramentas específicas para identificar recibos gerados por IA. Outras plataformas seguiram o mesmo caminho, como a SAP Concur.

Os recibos gerados por IA só vão melhorar a partir de agora. [Por isso] para combater a IA fraudulenta, precisamos também usar a inteligência artificial. Nicolas Ritz, desenvolvedor de produtos na Navan, empresa de software de viagens corporativas, ao The New York Times.

A AppZen detectou casos em que funcionários de seus clientes enviaram recibos de hotéis e passagens aéreas em cidades que nunca visitaram, todos criados por IA. Segundo a empresa, cerca de 30% dos recibos fraudulentos identificados atualmente foram gerados por chatbots, e o número total de fraudes aumentou 30% desde maio de 2024.

*Para contornar o problema, empresas estão usando a própria IA para comparar recibos suspeitos com versões reais do mesmo fornecedor. Imagem: izzuanroslan/Shutterstock*

IA contra IA: um jogo de gato e rato

Mason Wilder, diretor de pesquisa da Association of Certified Fraud Examiners, comentou ter ouvido de especialistas "que a IA está resultando diretamente não apenas no aumento desse tipo de fraude, mas também tornando-o mais difícil de detectar."

Leia mais:

A matéria explica que os chatbots deixam uma impressão digital nos metadados das imagens, mas esse rastro desaparece quando alguém faz uma captura de tela ou tira uma foto do recibo.

Para contornar esse desafio, as plataformas de auditoria estão desenvolvendo novos métodos. Os algoritmos comparam recibos suspeitos com versões reais do mesmo fornecedor, analisando detalhes imperceptíveis aos olhos humanos, como espaçamento entre letras ou formatação.

Além disso, sistemas como o da AppZen cruzam padrões de comportamento dos funcionários (como horários de envio e histórico de gastos) aplicando uma segunda camada de auditoria para identificar indícios do uso de IA. Isso inclui, por exemplo, quando o chatbot repete o mesmo nome de garçom ou o mesmo prato em diferentes recibos.

Não existe uma única técnica capaz de detectar esses recibos. Tem que ser em camadas e mais camadas. É um jogo de gato e rato. Anant Kale, CEO da AppZen, ao The New York Times.