一个表现顶尖的专家混合模型,使用高质量数据进行微调。

8x7b

23.8K 13 months ago

Readme

这个模型是 Mixtral 的一个微调版本,使用了高质量、精选的数据集。截至 2023 年 12 月 26 日,此模型在 Hugging Face Open LLM Leaderboard 上是排名最高的 MoE(专家混合)模型。

参考

HuggingFace

Argilla