mannix / mixtral_7bx2_moe

Mistral AI 开放权重的混合专家（MoE）高质量模型。

13B

156 拉取 更新于 4 个月前

4个月前

d7c879acdb3b · 7.8GB

模型
llama
·
12.9B
·
Q4_K_M
参数
{"stop":["[INST]","[/INST]"]}
模板
"[INST] {{ .System }} {{ .Prompt }} [/INST]"

README

Mixtral-7Bx2 大型语言模型（LLM）是一个预训练的生成稀疏混合专家模型。

@HuggingFace https://hugging-face.cn/ManniX-ITA/Mixtral_7Bx2_MoE-GGUF