Qualcomm lança chips para celular capazes de rodar modelo de 30 bilhões de parâmetros

A Qualcomm anunciou no Snapdragon Summit dois processadores topo de linha para celulares, o Snapdragon 8 Elite Gen 6 e o Snapdragon 8 Elite Extreme Gen 6, com foco em recursos de IA. A versão Extreme roda localmente um modelo de mistura de especialistas de 30 bilhões de parâmetros.

Os chips têm novos centros de sensores que rodam modelos pequenos, de até 200 milhões de parâmetros, permitindo transcrever e distinguir quem fala sem enviar dados à nuvem e criar memória de uso para sugerir automações. A Qualcomm diz que um agente completo de voz, com entrada e saída por fala, pode rodar no próprio aparelho, e o Gen 6 tem um novo acelerador para executar modelos com mais eficiência.