一名用户报告使用 OpenCode 进行大量编码任务时，运行 Qwen3.6-27B 模型并采用 UD-Q5_K_M GGUF 量化及 xhigh 推理强度配置。
- 该模型的推理引擎提供深层架构分析，但在长时间思考循环中运行缓慢。
- 每日持续超过 10 小时的高强度生成任务使 AMD Radeon RX 7900 XT 温度升至约 90°C。
- 用户通过自定义上下文管理设置维持令牌限制下的稳定性。
该帖子强调了长时间推理负载对消费级硬件的热影响，并邀请他人分享其温度和降频体验。
media
Hugging Face Forums
·
刚刚
·
open_models
Qwen3.6-27B 高推理配置在 AMD RX 7900 XT 上维持 90°C
译自 English → 中文
相关文章
blog
Simon Willison
·
2 天前
·
8 次浏览
腾讯发布 Hy4 Preview，一款拥有 1M 上下文的 770B 纯文本 LLM
中国公司腾讯发布了 Hy4 Preview，这是一个开放权重的纯文本输入大型语言模型，具有 7700 亿总参数和 490 亿活跃参数。此次发布大幅扩展了此前 7 月发布的 Hy3 模型，后者拥有 295B 总参数和 256,000 token 的上下文窗口。
lab
NVIDIA Research
·
3 天前
·
8 次浏览
Twill 自动推导 Tensor Core GPU 的最优软件流水线和 warp 专用调度方案
研究人员推出了 Twill，该系统将软件流水线（SWP）和 warp 专用化（WS）表述为一个可由现成约束求解器解决的联合优化问题。该方法自动化了 GPU 架构上迭代程序最优执行调度的推导。
github
llama.cpp
·
3 天前
·
9 次浏览
llama.cpp b10675 为着色器中的行 ID 和专家计数添加提升支持
llama.cpp 项目发布了版本 b10675，其中包含对其 Vulkan 后端的重大更新。此版本在着色器代码中增加了对行 ID 和专家计数的提升支持。
github
llama.cpp
·
3 天前
·
4 次浏览
llama.cpp 为 Apple M4 Pro 添加 fa-vec 调优
llama.cpp 项目通过新的 Metal 后端贡献，为 Apple M4 Pro GPU 添加了快速注意力向量 (fa-vec) 调优。此更新紧随支持其他 Apple GPU 的先前工作，并使用 `ggml-metal-tuning` 工具在 2024 年 11 月的 14 英寸 MacBook Pro 上生成。
lab
Anthropic News
·
4 天前
·
52 次浏览
Anthropic 开放 AI 智能体设备控制的模型硬件标准研究预览
Anthropic 与 HHMI Janelia Research Campus 已开放模型硬件标准（MHS）的研究预览，该共享规范旨在使 AI 智能体能够在实验室和制造设施中安全地操作物理设备。通过提供在操作系统和多样化硬件接口之间进行转换的统一驱动程序，该标准将硬件集成时间从数周或数月缩短至数小时。