Stable LM 2 是一个先进的 1.6B 和 12B 参数语言模型,使用包括英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语在内的多语言数据进行训练。
1.6b 12b
105.1K 下载量 更新于 9 个月前
Readme
Stable LM 2 1.6B 是一个先进的 1.6 和 12B 十亿参数的小型语言模型,使用包括英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语在内的多语言数据进行训练。
该模型在一个混合的公开数据集和合成数据集上进行训练,并使用了直接偏好优化 (DPO) 技术。