一个性能优异的专家混合模型,使用高质量数据进行微调。

8x7b

24.4K 14 个月前

自述文件

此模型是 Mixtral 的微调版本,使用高质量的精选数据集。 截至 2023 年 12 月 26 日,此模型是 Hugging Face Open LLM 排行榜上排名最高的 MoE(专家混合)模型。

参考文献

HuggingFace

Argilla