Updated 8 months ago
8 months ago
908c3f054aac · 1.6GB
model
archqwen2
·
parameters1.54B
·
quantizationQ8_0
1.6GB
params
{ "stop": [ "<|im_start|>", "<|im_end|>" ] }
59B
template
{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}{{ if .Prompt }}<|im_start|>user
182B
license
Apache License Version 2.0, January 200
11kB
Readme
Qwen2 使用 29 种语言的数据进行训练,包括英语和中文。
它提供 4 种参数尺寸:0.5B、1.5B、7B、72B。
在 7B 和 72B 模型中,上下文长度已扩展至 128k tokens。
Models | Qwen2-0.5B | Qwen2-1.5B | Qwen2-7B | Qwen2-72B |
---|---|---|---|---|
Params | 0.49B | 1.54B | 7.07B | 72.71B |
Non-Emb Params | 0.35B | 1.31B | 5.98B | 70.21B |
GQA | True | True | True | True |
Tie Embedding | True | True | False | False |
Context Length | 32K | 32K | 128K | 128K |
Supported languages
这是对英语和中文的补充
Regions | Languages |
---|---|
Western Europe | German, French, Spanish, Portuguese, Italian, Dutch |
Eastern & Central Europe | Russian, Czech, Polish |
Middle East | Arabic, Persian, Hebrew, Turkish |
Eastern Asia | Japanese, Korean |
South-Eastern Asia | Vietnamese, Thai, Indonesian, Malay, Lao, Burmese, Cebuano, Khmer, Tagalog |
Southern Asia | Hindi, Bengali, Urdu |
Performance
License
除 Qwen2 72B(instruct 和 base 模型)之外的所有模型均已获得 Apache 2.0 许可。
Qwen2 72B 模型仍使用原始的 Qianwen 许可证。