OpenAI lançará ferramenta para detectar imagens criadas pelo DALL-E 3

Uma ferramenta da OpenAI vai ser capaz de detectar as imagens criadas pelo DALL-E 3, o gerador de imagens a partir de prompts de texto da empresa.

Por Adeilson em 07/05/2024 às 23:05:47

Uma ferramenta da OpenAI vai ser capaz de detectar as imagens criadas pelo DALL-E 3, o gerador de imagens a partir de prompts de texto da empresa. As informações são da Reuters.

Leia mais:

O anúncio vem em um momento considerado necessário para acalmar as crescentes preocupações sobre a influência do conteúdo gerado por IA nas eleições globais deste ano.

A OpenAI já testou a ferramenta, e alega que ela foi capaz de identificar corretamente as imagens criadas pelo DALL-E 3 cerca de 98% das vezes. Ela também dizer quando uma imagem sofreu modificações comuns, como compactação, corte e alterações de saturação com impacto mínimo.

Imagem: Bartek Winnicki/Shutterstock

Outra medida da empresa seria adicionar marcas d'água invioláveis para rotular conteúdo digital, como fotos ou áudio, usando um sinal que seja difícil de remover.

Empresas se unem para combater a desinformação gerada por IA

A OpenAI anunciou ainda que está junto de outras empresas, como Google, Microsoft e Adobe, para fornecer um padrão que ajudaria a rastrear a origem de diferentes mídias feitas com IA e combater desinformações.
Em abril, durante as eleições gerais em curso na Índia, vídeos falsos de dois atores de Bollywood que criticam o primeiro-ministro Narendra Modi tornaram-se virais online.
No país, tem crescido a disseminação de conteúdos gerados por IA e de deepfakes, com o temor que o mesmo ocorra e em eleições noutras partes do mundo, incluindo nos EUA.

Também já foi anunciado que em parceria com a Microsoft, que financia projetos da OpenAI, as duas empresas vão lançar um fundo de "resiliência social" de US$ 2 milhões para apoiar a educação em IA, incentivando o uso responsável de suas ferramentas e capacidades.