IAs que pensam demais podem ser um problema para o mundo: o Overthinking
Os grandes modelos de linguagem (LLMs) como o o1, da OpenAI, representam avanços significativos em desempenho, mas ainda estão longe de atingir a eficiência ideal.
Os grandes modelos de linguagem (LLMs) como o o1, da OpenAI, representam avanços significativos em desempenho, mas ainda estão longe de atingir a eficiência ideal. Pesquisadores da Tencent AI Lab e da Shanghai Jiao Tong University publicaram o primeiro estudo abrangente sobre um problema recorrente nesses modelos que buscam imitar o raciocínio humano: o overthinking (ou "reflexão excessiva", em português).
O estudo analisa as causas e possíveis soluções para o uso excessivo de tokens, consumo elevado de poder computacional e desperdício de recursos no processamento de outputs de modelos generativos como o o1 e o DeepSeek R1, seu concorrente chinês de nível similar. Essas inteligências artificiais tentam simular o processo cognitivo humano para formular respostas em uma abordagem conhecida como Chain of Thought (CoT, ou "Cadeia de pensamentos" em português). No entanto, esse método pode consumir até 1.953% mais tokens do que IAs menos potentes — muitas vezes, sem necessidade.
Fonte: Tecmundo
