一个由 Mistral AI 与 NVIDIA 合作构建的 12B 模型,拥有 128k 上下文长度,处于同尺寸类别中的最先进水平。

工具 12b

488.4K 3 个月前

自述文件

Mistral NeMo 是一个与 NVIDIA 合作构建的 12B 模型。 Mistral NeMo 提供高达 128k 个 token 的大型上下文窗口。 其推理、世界知识和编码准确性在其尺寸类别中处于最先进水平。 由于它依赖于标准架构,Mistral NeMo 易于使用,并且可以作为使用 Mistral 7B 的任何系统的即插即用替换。

nemo-base-performance.png

参考

博客

Hugging Face