一位 Reddit 用户询问,在已有 RTX 4090 和 Intel i9 13900K 配置的情况下,购买 RTX 5060 Ti 用于额外的 Large Language Model 工作负载是否值得。
该帖子作者主要使用其 GPU 训练 Small Language Models 以及进行 llama.cpp 推理。他指出 5060 的显存带宽显著低于 4090,并质疑额外的 16GB VRAM 是否足以证明其成本和工作量是合理的。
一位 Reddit 用户询问,在已有 RTX 4090 和 Intel i9 13900K 配置的情况下,购买 RTX 5060 Ti 用于额外的 Large Language Model 工作负载是否值得。
该帖子作者主要使用其 GPU 训练 Small Language Models 以及进行 llama.cpp 推理。他指出 5060 的显存带宽显著低于 4090,并质疑额外的 16GB VRAM 是否足以证明其成本和工作量是合理的。