DeepSeek R1 跑本地怎么这么吃显存 星空漫游者 UID:7640 LV1 16小时前 AI 314 想试试 DeepSeek R1 的推理能力,租了张 4090 跑 7B 量化版,结果 24G 显存直接爆了。用的 ollama 拉的模型,--num-gpu 也设了,还是 OOM。是我姿势不对还是这模型本来就这么大?看官方说 7B 只要 16G,感觉被骗了。 这家伙太懒了,什么也没留下。 0 0