Appleは最大1.5 TBの統一メモリをサポートするM7 Ultraチップを計画していると報じられている。
この計画された仕様は、将来のApple siliconにおけるメモリ容量の大幅な増加を示している。
media
r/LocalLLaMA
·
73日前
·
open_models
Appleは最大1.5TBの統一メモリを搭載したM7 Ultraチップを計画
翻訳元 English → 日本語
関連記事
media
Hugging Face Forums
·
1時間前
·
1 回表示
ライブ
Apple M5 Mac: 仕様から計算したオープンモデルの収容数
本記事は、ベンチマークの実行ではなくメモリ制約を分析することで、新しいApple M5シリーズMac（Mac mini、Mac Studio）にどのオープンな大規模言語モデルが収まるかを計算している。使用可能なGPUメモリに対するQ4_K_M GGUFファイルサイズ、KVキャッシュの要件、ランタイムオーバーヘッドに基づいて容量を決定する。
arxiv
arXiv cs.CL
·
82日前
·
10 回表示
BaseRTがネイティブMetalによりApple Siliconで最高クラスのLLM推論を実現
研究者らは、Apple Silicon上の大規模言語モデル向けに、これまで報告された中で最高の推論スループットを達成するネイティブMetal推論ランタイム「BaseRT」を発表しました。チップ固有のカーネル融合と統一メモリ対応の最適化を活用することで、llama.cppやMLXといった既存のフレームワークで見られるオーバーヘッドを克服しています。
github
llama.cpp
·
5時間前
·
4 回表示
llama.cpp b11160 が AMD RDNA3/4 向けに int8 coopmat1 matmul と IQ4_XS サポートを追加
llama.cpp プロジェクトはバージョン b11160 をリリースし、AMD RDNA3 および RDNA4 アーキテクチャの Vulkan 向けに int8 協調行列 (coopmat1) の実装を導入しました。このアップデートには、パフォーマンスを向上させるために coopmat の値を直接プローブする専用シェーダーが含まれています。
media
Latent Space
·
11時間前
·
1 回表示
Meta Connect 2026でMuseパーソナルエージェント、VRグラス、Charmキーチェーンを発表
Meta Connect 2026において、Metaはハードウェアとエージェントを組み合わせた戦略の中心としてパーソナルエージェントMuseを披露し、新機能やデバイスを導入するとともに、将来のフロンティアモデルへの期待を示した。同社は、音声およびリアルタイムビデオ対話を含むMuseの拡張された機能を展示し、VRグラスやCharmキーチェーンといった新ハードウェアも紹介した。
media
r/LocalLLaMA
·
1日前
·
10 回表示
AppleがLensVLM-9Bをリリース、圧縮されたテキスト画像を選択的に拡張するVLM
Appleは、テキストの圧縮画像をより効率的に処理するために設計された90億パラメータのVision Language ModelであるLensVLM-9Bをリリースしました。このモデルはこれらの圧縮入力をスキャンし、学習したツールを使用して関連するページのみを選択的に非圧縮形式に拡張します。