Qualcomm lança GenieX para executar LLMs em laptops Windows

A Qualcomm lançou o GenieX, um novo SDK projetado para permitir a execução de modelos de linguagem grandes em laptops Windows equipados com chips da Qualcomm. A ferramenta suporta a execução de modelos via backends de CPU, GPU ou NPU.

• Usuários relatam alcançar 20 tokens por segundo com Gemma 4 26B A4B e 10 tokens por segundo com Qwen 3.6 27B MTP na GPU.
• O SDK permite compatibilidade com llama.cpp, suportando qualquer modelo GGUF Q4_0 em hardware de CPU, GPU e NPU.

Este lançamento visa ajudar a Qualcomm a alcançar os outros grandes fabricantes de chips no fornecimento de kits de desenvolvimento de software robustos para inferência de IA local.