granite3-dense

IBM Granite 2B 和 8B 模型旨在支持基于工具的用例，并支持检索增强生成 (RAG)，简化代码生成、翻译和错误修复。

工具 2b 8b

17.3K 2 周前

33 个标签

自述文件

An illustration of Ollama holding a beautiful flower with the IBM Rebus logo of the Eye, Bee and M, made by Paul Rand.

Granite 密集模型

IBM Granite **2B** 和 **8B** 模型是基于文本的密集型 LLM，在超过 12 万亿个词元的训练数据上训练而成，在 IBM 的初步测试中，与之前的模型相比，在性能和速度方面取得了显著改进。Granite-8B-Instruct 在 OpenLLM 排行榜 v1 和 OpenLLM 排行榜 v2 基准测试中均可与 Llama 3.1 8B-Instruct 相媲美。

**它们旨在支持基于工具的用例**，以及检索增强生成 (RAG)，简化代码生成、翻译和错误修复。

参数大小

2B

ollama run granite3-dense:2b

8B

ollama run granite3-dense:8b

支持的语言

英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语、简体中文

能力

  • 摘要
  • 文本分类
  • 文本提取
  • 问答
  • 检索增强生成 (RAG)
  • 与代码相关
  • 函数调用
  • 多语言对话用例

Granite 专家混合模型

Granite 专家混合模型有 **1B 和 3B** 参数大小，专为 **低延迟使用** 而设计。

查看模型页面

了解更多