一个性能优越的专家混合模型,使用高质量数据微调。

8x7b

22.8K 11个月前

自述文件

该模型是使用高质量、精选数据集微调的Mixtral版本。截至2023年12月26日,该模型在Hugging Face 开放LLM排行榜上排名第一的MoE(专家混合)模型。

参考文献

HuggingFace

Argilla