一个由 Mistral AI 与 NVIDIA 合作打造的 120 亿参数的最新模型,拥有 128k 的上下文长度。

工具 12b

488.4K 3 个月前

自述文件

Mistral NeMo 是一个与 NVIDIA 合作打造的 120 亿参数的模型。Mistral NeMo 提供高达 128k 个标记的大上下文窗口。它的推理能力、世界知识和编码精度在其尺寸类别中处于领先地位。由于它依赖于标准架构,Mistral NeMo 易于使用,并且可以作为任何使用 Mistral 7B 的系统的直接替代。

nemo-base-performance.png

参考

博客

Hugging Face