导读:近期更新了《大模型微调》的相关内容,包括《大模型微调训练时Loss一直不下降应该怎么系统排查》。如果 大模型微调 对你有帮助,请转发和分享本内容。知识因分享而拥有更大能量,感谢您成为这传播链条中的重要一环。
大模型微调训练时Loss一直不下降应该怎么系统排查 刚跑起来的微调任务盯着曲线半小时,发现损失值像焊死了一样毫无波动,这种状况往往不是显卡出了问题。先确认数据管道有没有把标签弄错,很多训练脚本在分词阶段就把目标张量填成了全零,模型自然学不到任何梯度信号。学习率设得过大也会让参数在最优解附近反复横跳,小到千分之一... 栏目:AI大模型 时间:08-17 大模型微调 loss不下降 训练排查