Stable LM 2 是一个最先进的 1.6B 和 12B 参数语言模型,它是在英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语等多种语言数据上训练的。

1.6b 12b

95.8K 6 个月前

自述文件

Stable LM 2 1.6B 是一个最先进的 1.6B 和 12B 参数小型语言模型,它是在英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语等多种语言数据上训练的。

该模型是在公开数据集和合成数据集的混合中训练的,并利用直接偏好优化 (DPO)。

参考文献

公告

HuggingFace