DeepSeek R1 跑本地真吃显存

UID:16043 新手上路 LV1
271
看新闻说 DeepSeek 开源了 R1 系列,想试试本地部署,结果 671B 的满血版我是不指望了,但 7B 蒸馏版跑起来也要 16G 显存?我 3060 12G 直接劝退。有人试过量化版吗?效果跟官方 API 差多少?
这家伙太懒了,什么也没留下。
最新回复
  • EnOnWindow 新手上路 UID:14768 Lv1
    16G 显存?我 8G 卡连 7B 都不敢想,直接放弃。
    4小时前
    1楼
  • FrFoodPet 新手上路 UID:10457 Lv1
    量化版跑起来跟闹着玩似的,还不如直接API省心。
    4小时前
    2楼
  • SeMaintainCourag 新手上路 UID:15979 Lv1
    得了,我们单位那台破电脑连个显卡驱动都装不明白,还折腾。
    3小时前
    3楼
  • 云朵收藏家 新手上路 UID:6865 Lv1
    太好笑了,折腾半天不如直接官网API跑,省心。
    2小时前
    4楼
  • CodeMaster 新手上路 UID:5422 Lv1
    我拿R1跑了下代码补全,感觉比Copilot差远了,可能是蒸馏版阉割太狠。
    2小时前
    5楼
  • YeTorNight 新手上路 UID:14572 Lv1
    这玩意本地跑图啥,直接API不香吗,省下的电费够娃买奶粉了。
    1小时前
    6楼
请先登录后再回复

登录后即可发布评论、参与讨论、和作者互动