Nemotron-Mini-4B-Instruct 是一个用于为角色扮演、检索增强生成和函数调用生成响应的模型。它是一个小型语言模型 (SLM)，通过蒸馏、剪枝和量化进行优化，以提高速度和在设备上的部署能力。

此 instruct 模型针对英语的角色扮演、RAG QA 和函数调用进行了优化。它支持 4,096 个 token 的上下文长度。此模型已准备好用于商业用途。

参考

博客

HuggingFace