mannix / mixtral_7bx2_moe

Mistral AI 开放权重的高质量专家混合（MoE）模型。

13B

156 Pulls 更新于 4 个月前

4 个月前

722127437881 · 6.7GB

模型
llama
·
12.9B
·
Q3_K_L
参数
{"stop":["[INST]","[/INST]"]}
模板
"[INST] {{ .System }} {{ .Prompt }} [/INST]"

README

Mixtral-7Bx2 大型语言模型 (LLM) 是一个预训练的稀疏混合专家。

@HuggingFace https://hugging-face.cn/ManniX-ITA/Mixtral_7Bx2_MoE-GGUF