PrismML开发了阿里巴巴开源模型Qwen 3.6的压缩版本，使拥有270亿参数的大型语言模型能够在iPhone 17 Pro上运行。该初创公司利用源自加州理工学院研究的数学技术，将模型大小从约54 GB减少到不到4 GB。

  • 在推理过程中，所有270亿参数保持活跃状态，这与苹果的新Siri模型不同，后者仅激活其200亿参数中的10亿至40亿个。
  • 压缩后的模型支持复杂的聊天、推理、自主代理和软件编码任务。
  • PrismML声称，尽管体积大幅减小，但压缩技术并未阻碍性能。
  • 该开源模型计划于下周二发布。

PrismML首席执行官Babak Hassibi预测，这种方法将通过将绝大部分智能处理转移到本地设备而非云端，从根本上改变AI的经济模式。