OpenAI bloqueou cinco tentativas de uso indevido de sua IA

A OpenAI revelou na quinta-feira (30) que interrompeu ao menos cinco operações secretas de influência que tentaram usar seus modelos de inteligência artificial (IA) para "atividades enganosas" na Internet. Segundo a empresa, a tecnologia foi utilizada para criar comentários curtos, artigos em vários idiomas e biografias inventadas para contas de mídia social.

O que você precisa saber:

• Conforme a Reuters, a atividade suspeita foi observada pela equipe de segurança da empresa nos últimos três meses;
• As campanhas falsas se concentravam em questões como a invasão da Ucrânia pela Rússia, o conflito em Gaza, as eleições indianas e a política na Europa e nos Estados Unidos;
• As operações enganosas foram uma "tentativa de manipular a opinião pública ou influenciar resultados políticos", afirmou a OpenAI em comunicado;
• O relatório é o mais recente a suscitar preocupações de segurança sobre o potencial uso indevido de IA generativa, que pode criar de forma rápida, fácil e automática textos, imagens e áudio semelhantes aos humanos.

Leia mais!

• ChatGPT vs. Gemini: qual assinatura de IA vale mais a pena?
• Como usar a IA do Google direto no navegador Chrome
• 5 Prompts do ChatGPT para criar currículos

A startup acrescentou que as operações não usaram apenas material gerado por IA, mas incluíram textos escritos manualmente e memes copiados da Internet.

Vale lembrar que, recentemente, a Meta também divulgou um relatório de segurança anunciando ter encontrado conteúdo "provavelmente gerado por IA" usado de forma enganosa em suas plataformas Facebook e Instagram. Os temas relacionados eram os mesmos, com foco para a guerra em Gaza e política dos EUA.

OpenAI formando nova equipe de segurança

A OpenAI também anunciou este mês que os projetos com IA da startup passarão a ter uma nova equipe responsável para garantir a produção segura das tecnologias. A equipe será liderada diretamente por Sam Altman, CEO da companhia. Entenda a mudança aqui!