Stable LM 2 是一款最先进的 1.6B 和 12B 参数语言模型,使用英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。
1.6b 12b
95.8K Pulls 更新于 6 个月前
更新于 6 个月前
6 个月前
7047024d0f2e · 5.4GB
模型
架构stablelm
·
参数12.1B
·
量化Q3_K_S
5.4GB
系统
你是一个有用的助手。
29B
参数
{"stop":["\u003c|im_start|\u003e","\u003c|im_end|\u003e"]}
59B
模板
{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}{{ if .Prompt }}<|im_start|>user
182B
许可证
STABILITY AI 非商业研究社区许可协议 日期:2023 年 12 月 06 日 通过使用
7.4kB
自述文件
Stable LM 2 1.6B 是一个最先进的 1.6B 和 12B 亿参数小语言模型,使用英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。
该模型在公开可用数据集和合成数据集的混合数据上进行训练,利用直接偏好优化 (DPO)。