Zephyr是一系列经过微调的Mistral和Mixtral模型,经过训练可以作为有帮助的助手。

7b 141b

226.5K 7个月前

自述文件

Zephyr是一系列经过训练可以作为有帮助的助手的语言模型。Zephyr 141B-A35B是该系列中的最新模型,它是Mixtral 8x22b的微调版本。

尺寸

  • zephyr:141b:一个专家混合模型 (MoE),共有 141B 个参数,其中 35B 个参数处于活动状态。
  • zephyr:7b:最初的 Zephyr 模型

来源