IAs ainda erram para responder sobre assuntos muito simples

No início do ano, o chefe digital do PGA Tour (Associação dos Golfistas Profissionais dos EUA), Scott Gutterman, testemunhou um erro do ChatGPT ao responder quantas vezes Tiger Woods ganhou o Tour, mostrando as limitações da inteligência artificial, conforme mostra o Wall Street Journal.

Apesar de os modelos de IA serem treinados com grandes volumes de dados, eles carecem frequentemente de conhecimento específico, levando a respostas imprecisas.

À medida que as empresas adotam IA, muitas percebem que modelos genéricos, como os da OpenAI, precisam ser adaptados com dados específicos do setor para serem realmente úteis. No entanto, esse processo de personalização pode aumentar os custos e a complexidade, exigindo um controle rigoroso sobre os dados.

IA ainda precisa da revisão humana quando responde algo

• O PGA Tour agora utiliza uma abordagem chamada “geração aumentada de recuperação” (RAG) para minimizar erros, integrando informações específicas, como as regras do Tour, diretamente em suas consultas à IA.
• Todas as respostas geradas ainda são revisadas por humanos antes de serem divulgadas.
• Contudo, a RAG tem limitações e é mais adequada para tarefas de baixo risco.
• Para situações mais críticas, como conselhos agrícolas, é recomendado o “ajuste fino” dos modelos com dados proprietários, embora isso seja caro e exija especialização.

Leia mais

• 10 melhores chatbots para usar no ChatGPT
• ChatGPT brasileiro: conheça MariTalk, IA gratuita e especialista no país
• O ChatGPT não é bom para te diagnosticar; diz estudo

Algumas empresas estão explorando a criação de modelos personalizados para entender nuances específicas, como empréstimos habitacionais. Enquanto modelos de IA específicos do setor estão surgindo, a responsabilidade de personalização continua nas mãos das empresas.

No caso do PGA Tour, Gutterman destacou a importância de ensinar a IA a diferenciar entre vitórias em eventos e vitórias em majors, já que o ChatGPT confundiu essas informações ao afirmar que Tiger Woods havia vencido 15 vezes no Tour, quando, na verdade, ele venceu 82.