据报道，苹果正在计划一款 M7 Ultra 芯片，将支持高达 1.5 TB 的统一内存。
该计划规格突显了未来 Apple silicon 在内存容量方面的显著提升。
media
r/LocalLLaMA
·
73 天前
·
open_models
苹果计划推出支持高达 1.5 TB 统一内存的 M7 Ultra 芯片
译自 English → 中文
相关文章
media
Hugging Face Forums
·
1 小时前
·
1 次浏览
实时
Apple M5 Macs：根据规格计算可适配的开源模型
本文通过分析内存限制而非运行基准测试，计算出哪些开源大语言模型可以适配新的 Apple M5 系列 Mac（Mac mini、Mac Studio）。它基于 Q4_K_M GGUF 文件大小、KV 缓存需求以及相对于可用 GPU 内存的运行开销来确定容量。
arxiv
arXiv cs.CL
·
82 天前
·
10 次浏览
BaseRT 通过原生 Metal 在 Apple Silicon 上提供一流的 LLM 推理
研究人员展示了 BaseRT，这是一个针对 Apple Silicon 上的大语言模型的原生 Metal 推理运行时，实现了迄今为止报告的最高推理吞吐量。通过利用芯片特定的内核融合和统一内存感知优化，它克服了 llama.cpp 和 MLX 等现有框架中的开销。
github
llama.cpp
·
5 小时前
·
4 次浏览
llama.cpp b11160 为 AMD RDNA3/4 添加 int8 coopmat1 矩阵乘法及 IQ4_XS 支持
llama.cpp 项目发布了 b11160 版本，在 AMD RDNA3 和 RDNA4 架构的 Vulkan 上引入了 int8 协同矩阵 (coopmat1) 实现。此更新包含一个专用着色器，直接探测 coopmat 值以提升性能。
media
Latent Space
·
11 小时前
·
1 次浏览
Meta Connect 2026 发布 Muse 个人智能体、VR 眼镜和 Charm 钥匙扣
在 Meta Connect 2026 上，Meta 将其个人智能体 Muse 作为“硬件+智能体”战略的核心进行展示，推出了新功能和设备，并预告了未来的前沿模型。该公司展示了 Muse 的扩展能力，包括语音和实时视频交互，以及 VR 眼镜和 Charm 钥匙扣等新硬件。
media
r/LocalLLaMA
·
1 天前
·
10 次浏览
苹果发布 LensVLM-9B，一种可选择性扩展压缩文本图像的视觉语言模型
苹果发布了 LensVLM-9B，这是一个拥有 90 亿参数的视觉语言模型，旨在更高效地处理文本的压缩图像。该模型扫描这些压缩输入，并利用学习到的工具选择性地将相关页面扩展为其未压缩形式。