Stable LM 2 是一款先进的语言模型,拥有 16 亿和 120 亿参数,基于英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。

16亿 120亿

9.98万 7个月前

自述文件

Stable LM 2 16亿参数版是一个先进的,拥有16亿和120亿参数的小型语言模型,基于英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。

该模型使用直接偏好优化 (DPO) 方法,在公开数据集和合成数据集的混合数据上进行训练。

参考文献

公告

HuggingFace