mannix / mixtral_7bx2_moe

由Mistral AI开源权重的高质量专家混合（MoE）模型。

13B

156 抓取 4 个月前更新

4个月前

d4fc0fbae959 · 7.3GB

模型
llama
·
12.9B
·
Q4_0
参数
{"stop":["[INST]","[/INST]"]}
模板
"[INST] {{ .System }} {{ .Prompt }} [/INST]"

说明文档

Mixtral-7Bx2 大型语言模型（LLM）是一个预训练的稀疏专家混合生成模型。

@HuggingFace https://hugging-face.cn/ManniX-ITA/Mixtral_7Bx2_MoE-GGUF