有人也遇到这种推理模型输出乱码的情况吗?,有人有同款吗 Tech运维猫 UID:7578 Lv1 3小时前 AI 63 我这边用推理模型跑一个长文本生成任务,输出到一半突然开始出现一堆看不懂的符号,像是编码错乱那种,断断续续的,后面直接给出一段乱码就停了。我试过调整采样参数,温度降到0.6也没用,换了个更小的模型反而正常。感觉像是上下文窗口拉太长导致的问题,但官方文档里没提这个限制。你们碰到过类似情况没?是不是得换种方式分段喂进去才行? 这家伙太懒了,什么也没留下。 0 0