Chip da Nvidia lidera em inferência de IA, mostram testes

Um teste de benchmarking, ferramenta usada para comparar o desempenho de um processo, produto ou serviço em relação a outros processos, mostrou na segunda-feira (11) que o chip da Nvidia lidera na inferência do campo da inteligência artificial (IA), tendo o melhor desempenho dentre outros.

O que você precisa saber:

• O teste avaliou a rapidez com que um hardware de última geração pode executar modelos de IA;
• O chip da Nvidia teve o melhor desempenho em um modelo de linguagem grande (LLM);
• Um semicondutor produzido pela Intel ficou em segundo lugar;
• O teste simulou a parte de "inferência" do processamento de dados de IA, que alimenta o software por trás das ferramentas generativas de IA;
• Essa não é a primeira vez que a Nvidia fica em primeiro lugar em testes de inferências do MLPerf, grupo de líderes de IA do meio acadêmico cuja missão é criar benchmarks justos — a equipe foi formada em 2018.

Leia mais!

• Nvidia quer expandir uso de IA na Índia
• Superada pela Nvidia, Qualcomm agora aposta na IA
• Guerra dos chips: restrições dos EUA também impactam Oriente Médio?

O que você vê é que estamos entregando desempenho de liderança em todos os níveis e, novamente, entregando esse desempenho de liderança em todas as cargas de trabalho.

Dave Salvator, diretor de marketing de computação acelerada da Nvidia.

O principal envio da Nvidia para o benchmark de inferência é construído em torno de oito de seus principais chips H100. A empresa já dominou o mercado de modelos de IA de treinamento, mas ainda não conquistou totalmente o mercado de inferência, embora já tenha mostrado bons resultados em outras ocasiões: em 2021, a empresa também liderou os mesmos testes em inferência de IA utilizando chips x86 ou CPUs Arm. Em abril deste ano, novos testes também mostraram ganhos na eficiência e inferência.

Já o sucesso da Intel baseia-se nos chips Gaudi2 produzidos pela unidade Habana que a empresa adquiriu em 2019. Nos testes, o sistema Gaudi2 se mostrou cerca de 10% mais lento que o sistema da Nvidia. 

"Estamos muito orgulhosos dos resultados da inferência, pois mostramos a vantagem de desempenho de preço do Gaudi2“, disse o diretor de operações da Habana, Eitan Medina.

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!