granite3-dense

IBM Granite 2B 和 8B 模型旨在支持基于工具的用例和检索增强生成 (RAG)，从而简化代码生成、翻译和错误修复。

工具 2b 8b

45.5K 2 个月前

33 标签

自述文件

An illustration of Ollama holding a beautiful flower with the IBM Rebus logo of the Eye, Bee and M, made by Paul Rand.

Granite 密集模型

IBM Granite 2B 和 8B 模型是仅文本的密集 LLM，使用超过 12 万亿个 tokens 的数据进行训练，在 IBM 的初步测试中，在性能和速度方面都比其前代产品有了显着改进。Granite-8B-Instruct 现在在 OpenLLM Leaderboard v1 和 OpenLLM Leaderboard v2 基准测试中可以与 Llama 3.1 8B-Instruct 相媲美。

它们旨在支持基于工具的用例以及检索增强生成 (RAG)，从而简化代码生成、翻译和错误修复。

参数大小

2B

ollama run granite3-dense:2b

8B

ollama run granite3-dense:8b

支持的语言

English, German, Spanish, French, Japanese, Portuguese, Arabic, Czech, Italian, Korean, Dutch, Chinese (简体中文)

功能

  • 摘要
  • 文本分类
  • 文本提取
  • 问答
  • 检索增强生成 (RAG)
  • 代码相关
  • 函数调用
  • 多语言对话用例

Granite 混合专家模型

Granite 混合专家模型提供 1B 和 3B 参数大小，专为低延迟使用而设计。

查看模型页面

了解更多