Qualcomm、WindowsノートPCでLLMを実行するGenieXを発売

Qualcommは、Qualcommチップを搭載したWindowsノートPCで大規模言語モデルの実行を可能にする新しいSDKであるGenieXを発売しました。このツールは、CPU、GPU、またはNPUバックエンドを通じてモデルを実行することをサポートしています。

• ユーザーは、Gemma 4 26B A4Bで秒間20トークン、Qwen 3.6 27B MTPで秒間10トークンのパフォーマンスをGPU上で報告しています。
• このSDKは、CPU、GPU、NPUハードウェア上の任意のQ4_0 GGUFモデルをサポートすることで、llama.cppとの互換性を可能にします。

このリリースは、QualcommがローカルAI推論のための堅牢なソフトウェア開発キットを提供する他の主要なチップメーカーに追いつくことを目的としています。