Stable LM 2 是一个最先进的 1.6B 和 12B 参数语言模型，使用英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。
1.6b 12b
105.1K Pulls 更新于 9 个月前
更新于 9 个月前
9 个月前
5af5562f9d85 · 7.4GB
模型
archstablelm
·
parameters12.1B
·
quantizationQ4_K_M
7.4GB
系统
You are a helpful assistant.
29B
参数
{ "stop": [ "<|im_start|>", "<|im_end|>" ] }
59B
模板
{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}{{ if .Prompt }}<|im_start|>user
182B
许可
STABILITY AI 非商业研究社区许可协议 日期：2023年12月06日 通过使用
7.4kB
Readme
Stable LM 2 1.6B 是一个最先进的 1.6 和 12B 十亿参数的小型语言模型，使用英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。
该模型使用公开可用的数据集和合成数据集的混合数据进行训练，并采用了直接偏好优化 (Direct Preference Optimization, DPO) 技术。