A OpenAI decidiu suspender um desenvolvedor após ele criar um bot baseado no ChatGPT para se passar por Dean Phillips, candidato presidencial nos EUA. De acordo com The Washington Post, o chatbot, cadastrado pela startup de IA Delphi, tinha o intuito de reforçar a campanha de Phillips interagindo com usuários.
O que você precisa saber:
- Chamado de Dean.Bot, o bot divulgava a mensagem do candidato na disputa à presidência dos EUA;
- O programa, no entanto, alertava os usuários sobre o uso de inteligência artificial (IA), mas também para a isenção de responsabilidade da empresa dona do bot, a Delphi;
- A OpenAI decidiu suspender o bot após a publicação do Washington Post — ao que tudo indica, a empresa não sabia do novo app;
- O caso ocorre poucas semanas após a startup dona do ChatGPT desautorizar o uso de suas IAs para campanhas eleitorais. Saiba mais aqui!
Leia mais!
- EUA querem investigação antitruste contra a OpenAI; entenda
- OpenAI: "mãe" do ChatGPT foca em IA democrática e eleições sem fake news
- OpenAI lança loja de chatbots personalizados
"Chatbots que se passam por candidatos" são exatamente o exemplo que a OpenAI ofereceu sobre o que não será permitido durante as eleições de 2024 nos EUA. A empresa publicou atualização de suas políticas na última segunda-feira, 15 de janeiro, desautorizando o uso das ferramentas de IA da startup para campanhas políticas.
Após a denúncia do Washington Post, a Delphi manteve o app funcionando sem a base do ChatGPT, apenas com outras ferramentas de código aberto, mas a OpenAI apontou o desenvolvimento do programa como irregular, por usar a IA da companhia e infringir suas regras.
À medida que nos preparamos para as eleições em 2024 nas maiores democracias do mundo, a nossa abordagem é continuar o nosso trabalho de segurança da plataforma.
Queremos ter certeza de que nossos sistemas de IA sejam construídos, implantados e usados com segurança. Como qualquer nova tecnologia, essas ferramentas trazem benefícios e desafios. Eles também não têm precedentes e continuaremos evoluindo nossa abordagem à medida que aprendermos mais sobre como nossas ferramentas são usadas.
OpenAI em comunicado sobre a atualização de suas políticas.
Segundo o Engadget, o site já está fora do ar por "dificuldades técnicas". O portal apresenta a seguinte mensagem: "Desculpas, DeanBot está ausente em campanha agora!".
Nem a OpenAI, nem a Delphi se pronunciaram oficialmente sobre o caso.
Olhardigital