导读:近期更新了《UltraChat》的相关内容,包括《如何解决UltraChat通用性差的问题:领域数据混合策略该怎么做?》。如果 UltraChat 对你有帮助,请转发和分享本内容。知识因分享而拥有更大能量,感谢您成为这传播链条中的重要一环。
如何解决UltraChat通用性差的问题:领域数据混合策略该怎么做? 把通用对话模型直接用到医疗或法律场景,常常答非所问,这就是UltraChat这类语料训练出的模型通用性偏弱的典型表现。单纯堆通用聊天数据已触到天花板,更有效的方式是做领域数据混合。本文说明领域数据混合的基本思路,比如按业务占比采样本域语料、用指令改写把专业内容转成对... 栏目:AI大模型 时间:08-10 UltraChat 领域数据混合 通用性优化