Zephyr 是 Mistral 和 Mixtral 模型的一系列微调版本,经过训练可以充当有用的助手。

7b 141b

222.4K 6 个月前

自述文件

Zephyr 是一系列经过训练可以充当有用的助手的语言模型。Zephyr 141B-A35B 是该系列的最新模型,它是 Mixtral 8x22b 的微调版本。

尺寸

  • zephyr:141b: 一个具有 1410 亿个总参数和 350 亿个活动参数的专家混合模型 (MoE)。
  • zephyr:7b: 原始 Zephyr 模型

来源