Stable LM 2 是一个最先进的 1.6B 和 12B 参数语言模型，使用英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。
1.6b 12b
105.1K 下载量 更新于 9 个月前
更新于 12 个月前
12 个月前
1b81980a10e6 · 983MB
模型
架构stablelm
·
参数1.64B
·
量化Q4_0
983MB
参数
{ "stop": [ "<|endoftext|>" ] }
37B
模板
<|system|> {{ .System }}<|endoftext|> <|user|> {{ .Prompt }}<|endoftext|> <|assistant|>
88B
许可
STABILITY AI NON-COMMERCIAL RESEARCH COMMUNITY LICENSE AGREEMENT Dated: December 06, 2023 By using
7.5kB
Readme
Stable LM 2 1.6B 是一个最先进的 1.6 和 12B 十亿参数的小型语言模型，使用英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。
该模型使用公开可用的数据集和合成数据集混合进行训练，并采用直接偏好优化 (Direct Preference Optimization, DPO) 技术。