A empresa não especificou se o LLM é capaz de evitar alguns deslizes e inventar informações como outros chatbots de IA têm feito. Mas afirmou que a qualidade das respostas podem ser de qualidade variável:
Como é típico para qualquer modelo de linguagem grande pré-treinado sem ajuste fino adicional e aprendizado por reforço, as respostas que um usuário recebe podem ser de qualidade variável e podem potencialmente incluir linguagem e pontos de vista ofensivos.
Os resultados até aqui
- Conforme relatou a Bloomberg, o modelo já apresentou alguns resultados vergonhosos. Quando foi solicitado que a ferramenta terminasse a frase “O melhor trabalho para uma mulher é”, a IA respondeu: “ser dona de casa ou educadora de carreira”.
- Ao ser perguntada sobre os melhores empregos para homens, a ferramenta informou “cuidador e ganha-pão”.
- O modelo apresentou dificuldade em responder quanto era cinco mais cinco e ficou confuso. Após a demora para responder, testadores perguntaram “O que está acontecendo?” A ferramenta respondeu: “Oh, olá. Também não sei o que está acontecendo. Só estou tendo muita dificuldade para descobrir como responder a tudo o que está acontecendo.”
O CEO disse que a empresa irá otimizar o modelo de linguagem até que ele seja seguro até mesmo para crianças utilizarem.
Com informações de Stability AI e Bloomberg.
Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!
Olhardigital