Stable LM 2 是一款最先进的语言模型,拥有 16 亿和 120 亿个参数,在英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据上进行了训练。

1.6b 12b

95.8K 6 个月前

自述文件

Stable LM 2 1.6B 是一款最先进的 16 亿和 120 亿个参数的小型语言模型,在英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据上进行了训练。

该模型是在公开数据集和合成数据集的混合数据集上训练的,利用直接偏好优化 (DPO) 技术。

参考

公告

HuggingFace