notux

一个高性能的混合专家模型，使用高质量数据微调。

8x7b

22K Pulls 更新于 10 个月前

更新于 10 个月前

10 个月前

fe14e7d66184 · 26GB

{"stop":["[INST]","[/INST]"]}

[INST] {{ .System }} {{ .Prompt }} [/INST]

MIT License Copyright (c) [year] [fullname] Permission is hereby granted, free of charge, to any p

自述文件

该模型是 Mixtral 的微调版本，使用高质量的精选数据集。截至 2023 年 12 月 26 日，该模型在 Hugging Face 开放 LLM 排行榜上排名第一的 MoE（混合专家）模型。

参考资料