stablelm2

Stable LM 2 是一款最先进的 1.6B 和 12B 参数语言模型，它使用英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。

1.6b 12b

95.8K 拉取更新于 6 个月前

更新于 9 个月前

9 个月前

16082bda3ea8 · 858MB

{"stop":["\u003c|endoftext|\u003e"]}

<|system|> {{ .System }}<|endoftext|> <|user|> {{ .Prompt }}<|endoftext|> <|assistant|>

STABILITY AI 非商业研究社区许可协议日期：2023 年 12 月 06 日通过使用

自述文件

Stable LM 2 1.6B 是一款最先进的 1.6B 和 12B 亿参数小型语言模型，它使用英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。

该模型使用公开数据集和合成数据集的混合进行训练，利用直接偏好优化 (DPO) 。

参考资料