Meta-Llama-3-12B-Instruct 是 M. Labonne 的 llama3-8b 深度上采样合并模型
更新于3个月前
3个月前
885781ecc54c · 8.0GB
模型
架构llama
·
参数11.5B
·
量化Q5_K_S
8.0GB
模板
{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>
260B
参数
{"num_keep":24,"stop":["<|start_header_id|>","<|end_header_id|>","<|eot_id|>"]}
110B
说明文件
Meta-Llama-3-12B-Instruct 是 M. Labonne 的 llama3-8b 深度上采样合并模型
使用groups_merged.txt通过imatrix量化