smollm

🪐 一个小型模型系列，包含 135M、360M 和 1.7B 参数，在新的高质量数据集上训练。

135m 360m 1.7b

80.1K 拉取更新 2 个月前

更新于 2 个月前

2 个月前

95f6557a0f0f · 991MB

{"stop":["\u003c|im_start|\u003e","\u003c|im_end|\u003e"],"temperature":0.2,"top_p":0.9}

{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}{{ if .Prompt }}<|im_start|>user

Apache License Version 2.0, January 200

自述文件

SmolLM 是一系列小型语言模型，提供三种尺寸：135M、360M 和 1.7B 参数。

参考文献