PrismMLは、アリババのオープンソースQwen3.6モデルの圧縮版を開発し、270億パラメータの大規模言語モデルをiPhone 17 Proで動作可能にした。このスタートアップ企業は、カリフォルニア工科大学の研究に由来する数学的手法を用いて、モデルのサイズを約54ギガバイトから4ギガバイト未満に縮小した。

  • Appleの新しいSiriモデルが200億パラメータのうち10億〜40億パラメータのみを活性化させるのとは対照的に、270億パラメータすべてが推論時にアクティブなまま維持される。
  • 圧縮モデルは、複雑なチャット、推論、自律エージェント、ソフトウェアコーディングタスクをサポートする。
  • PrismMLは、大幅なサイズ縮小にもかかわらず、この圧縮技術がパフォーマンスを阻害しないと主張している。
  • このオープンソースモデルは来週の火曜日にリリース予定である。

PrismMLのCEOであるBabak Hassibiは、このアプローチが知能処理の大部分をクラウドからローカルデバイスへ移行させることで、AIの経済構造を根本的に変えると予測している。