notux

一个性能优异的混合专家模型，使用高质量数据微调。

8x7b

22K 拉取更新 10 个月前

10 个月前更新

10 个月前

03152c4371e4 · 50GB

{"stop":["[INST]","[/INST]"]}

[INST] {{ .System }} {{ .Prompt }} [/INST]

MIT License Copyright (c) [year] [fullname] Permission is hereby granted, free of charge, to any p

自述文件

该模型是 Mixtral 的微调版本，使用高质量的精选数据集进行训练。截至 2023 年 12 月 26 日，该模型在 Hugging Face 开放式 LLM 排行榜上排名第一的 MoE（混合专家）模型。

参考资料