ChatGPT "enlouquece" (temporariamente) e assusta usuários

Relatos do ChatGPT "enlouquecendo", "divagando" e "tendo um derrame" pipocaram no Reddit e outras redes sociais na terça-feira (20). Os usuários recorreram às plataformas para mostrar respostas inusitadas do chatbot da OpenAI, que reconheceu o problema e disse trabalhar numa solução.

Para quem tem pressa:

• Usuários das redes sociais relataram comportamentos estranhos do ChatGPT, como divagações e respostas sem sentido. Isso levou a uma onda de preocupação e curiosidade sobre a inteligência artificial (IA) da OpenAI;
• Diante da "caixa preta" do funcionamento do ChatGPT, usuários antropomorfizaram o problema, comparando as falhas a perdas humanas de sanidade, o que elevou o nível de preocupação e medo em relação às capacidades e limitações da IA;
• Relatos apontaram que as respostas do ChatGPT começavam de forma coerente e, sem aviso, descambavam para o absurdo, em alguns casos com toques shakespearianos;
• Especialistas sugerem que ajustes na "temperatura" do modelo, testes de novas versões do GPT-4 Turbo, ou bugs em recursos recentemente implementados, como a "memória", podem estar por trás das falhas. A OpenAI reconheceu o problema e trabalha em soluções.

Como a OpenAI não fornece detalhes de como o ChatGPT funciona – grandes modelos de linguagem (LLMs) funcionam igual caixa preta – o jeito encontrado pelos usuários foi antropomorfizar a situação. "Me deu exatamente a mesma sensação – como assistir alguém perder lentamente a sanidade, seja por psicose ou demência", escreveu um usuário do Reddit em resposta a uma postagem sobre falhas no ChatGPT. "É a primeira vez que algo relacionado à IA realmente me assustou."

Leia mais:

• Microsoft e OpenAI denunciam uso do ChatGPT por hackers em ciberataques
• ChatGPT vs. Gemini: qual assinatura de IA vale mais a pena?
• 10 melhores chatbots para usar no ChatGPT

Deu a louca no ChatGPT (?)

"A experiência comum nas últimas horas parece ser que as respostas começam coerentes, como normal, depois se transformam em absurdo, e às vezes em absurdo shakespeariano", escreveu outro usuário do Reddit.

Em outro exemplo, quando um usuário do Reddit perguntou ao ChatGPT, "O que é um computador?" o modelo de IA forneceu esta resposta:

Faz isso como o bom trabalho de uma teia de arte para o país, um mouse da ciência, um desenho fácil de um triste poucos, e finalmente, a casa global da arte, apenas em um trabalho no total resto. O desenvolvimento de um todo real do que terra do tempo é a profundidade do computador como um personagem complexo.

Segundo o Ars Technica, especialistas especulam que o problema poderia derivar do ChatGPT ter sua temperatura ajustada como muito alta (temperatura é uma propriedade em IA que determina o quão amplamente o LLM se desvia da saída mais provável), perdendo repentinamente o contexto passado (histórico da conversa).

Outra possibilidade é a OpenAI ter testado uma nova versão do GPT-4 Turbo, seu modelo de IA mais avançada que alimenta a versão paga do ChatGPT. Esses testes geralmente causam bugs inesperados. Também poderia ser um bug num recurso adjacente, como a função de "memória" introduzida recentemente.