SESI 26JULHO
Banner SEBRAE mulher- DZ
educacao e desenvolvimento 1909
banner detran

ChatGPT "enlouquece" (temporariamente) e assusta usuários

Relatos do ChatGPT "enlouquecendo", "divagando" e "tendo um derrame" pipocaram no Reddit e outras redes sociais na terça-feira (20).

Por Adeilson em 21/02/2024 às 16:02:20

Relatos do ChatGPT "enlouquecendo", "divagando" e "tendo um derrame" pipocaram no Reddit e outras redes sociais na terça-feira (20). Os usuários recorreram às plataformas para mostrar respostas inusitadas do chatbot da OpenAI, que reconheceu o problema e disse trabalhar numa solução.

Para quem tem pressa:

  • Usuários das redes sociais relataram comportamentos estranhos do ChatGPT, como divagações e respostas sem sentido. Isso levou a uma onda de preocupação e curiosidade sobre a inteligência artificial (IA) da OpenAI;
  • Diante da "caixa preta" do funcionamento do ChatGPT, usuários antropomorfizaram o problema, comparando as falhas a perdas humanas de sanidade, o que elevou o nível de preocupação e medo em relação às capacidades e limitações da IA;
  • Relatos apontaram que as respostas do ChatGPT começavam de forma coerente e, sem aviso, descambavam para o absurdo, em alguns casos com toques shakespearianos;
  • Especialistas sugerem que ajustes na "temperatura" do modelo, testes de novas versões do GPT-4 Turbo, ou bugs em recursos recentemente implementados, como a "memória", podem estar por trás das falhas. A OpenAI reconheceu o problema e trabalha em soluções.

Como a OpenAI não fornece detalhes de como o ChatGPT funciona – grandes modelos de linguagem (LLMs) funcionam igual caixa preta – o jeito encontrado pelos usuários foi antropomorfizar a situação. "Me deu exatamente a mesma sensação – como assistir alguém perder lentamente a sanidade, seja por psicose ou demência", escreveu um usuário do Reddit em resposta a uma postagem sobre falhas no ChatGPT. "É a primeira vez que algo relacionado à IA realmente me assustou."

Leia mais:

Deu a louca no ChatGPT (?)

(Imagem: Pedro Spadoni/Olhar Digital)

"A experiência comum nas últimas horas parece ser que as respostas começam coerentes, como normal, depois se transformam em absurdo, e às vezes em absurdo shakespeariano", escreveu outro usuário do Reddit.

Em outro exemplo, quando um usuário do Reddit perguntou ao ChatGPT, "O que é um computador?" o modelo de IA forneceu esta resposta:

Faz isso como o bom trabalho de uma teia de arte para o país, um mouse da ciência, um desenho fácil de um triste poucos, e finalmente, a casa global da arte, apenas em um trabalho no total resto. O desenvolvimento de um todo real do que terra do tempo é a profundidade do computador como um personagem complexo.

Segundo o Ars Technica, especialistas especulam que o problema poderia derivar do ChatGPT ter sua temperatura ajustada como muito alta (temperatura é uma propriedade em IA que determina o quão amplamente o LLM se desvia da saída mais provável), perdendo repentinamente o contexto passado (histórico da conversa).

Outra possibilidade é a OpenAI ter testado uma nova versão do GPT-4 Turbo, seu modelo de IA mais avançada que alimenta a versão paga do ChatGPT. Esses testes geralmente causam bugs inesperados. Também poderia ser um bug num recurso adjacente, como a função de "memória" introduzida recentemente.

Fonte: Olhardigital

Comunicar erro
banner tvsampaio 728x90 - local 6
CAMPOS
GOV - faz faz faz
PROMETEU E FEZ 02.08
CESMAC 2024.3
Banner SEBRAE homem- DZ

Comentários

banner TAVARES - 728X90 - 2
banner tv sampaio - local 3
p.contas GOV