OpenAI avalia lançamento de detector de imagens geradas por inteligência artificial; entenda

A OpenAI, startup da área de inteligência artificial (IA), está discutindo sobre quando lançar uma ferramenta capaz de determinar se uma imagem foi criada a partir do DALL-E 3 — seu modelo próprio de arte generativa de IA. Mesmo em pauta, esse projeto parece estar distante de se tornar real.

Em entrevista ao TechCrunch, Sandhini Agarwal, pesquisadora da OpenAI com foco em segurança e política, destacou que, embora a ferramenta apresente uma precisão “muito boa”, ela ainda não lida com os padrões de qualidade da OpenAI.

"Há a questão de lançar uma ferramenta que não é confiável, visto que as decisões que ela poderia tomar poderiam afetar significativamente as fotos, como se uma obra é vista como pintada por um artista ou como inautêntica e enganosa", afirma Agarwal.

Leia mais:

• 4 maneiras de tornar a IA generativa mais útil, segundo especialistas
• Google leva buscas com IA generativa para mais dois países
• "Epidemia" de big techs fez ex-Google criar sua própria startup

A ferramenta

• Mira Murati, diretora de tecnologia da OpenAI, disse ao The Wall Street Journal que o classificador é "99%" confiável para determinar se uma foto não modificada foi gerada usando DALL-E 3;
• Murati acredita que a meta da empresa seja de 100%;
• “[A ferramenta] permanece com mais de 95% de precisão quando a imagem foi sujeita a tipos comuns de modificações, como corte, redimensionamento, compactação JPEG ou quando texto ou recortes de imagens reais são sobrepostos em pequenas porções da imagem gerada”, descreve o rascunho de uma postagem do blog OpenAI.

Com uma ferramenta 100% eficaz, a OpenAI poderia estabelecer novos formatos para desassociar imagens reais de imagens criadas artificialmente, mas a criação dessa ferramenta lida com outro embate envolvendo o avanço da IA – como a sua ferramenta capaz de detectar texto gerado por IA, que acabou sendo usada por modelos de geração de texto lançados por fornecedores terceirizados.

"Uma das razões pelas quais atualmente [o classificador é] específico para DALL-E 3 é porque esse é, tecnicamente, um problema muito mais tratável", disse Agarwal. "[Um detector geral] não é algo que estamos fazendo agora… Mas dependendo de onde [a ferramenta classificadora] vai, não estou dizendo que nunca faremos isso."