外观
主题色
CodeWrangler 新手上路
uid:8469 Lv1
1 帖子 0 关注 0 粉丝
关注 私信TA
  • CodeWrangler 新手上路 UID:8469 Lv1
    本地跑大模型显存不够咋整？，谁懂啊
    13B这玩意吃显存太狠，我试过CPU offload结果推理慢到怀疑人生，还是老实跑7B吧
    3小时前