一个基于专家混合的高性能模型,使用高质量数据微调。

8x7b

22.8K 11个月前

自述文件

此模型是使用高质量、精选数据集对Mixtral进行微调的版本。截至2023年12月26日,此模型在Hugging Face 开放大型语言模型排行榜上排名第一的专家混合模型 (MoE)。

参考文献

HuggingFace

Argilla