更新于 5 个月前
5 个月前
7461deaf5540 · 4.8GB
model
架构gemma2
·
参数9.24B
·
量化Q3_K_M
4.8GB
params
{ "stop": [ "<start_of_turn>", "<end_of_turn>" ] }
65B
template
<start_of_turn>user {{ if .System }}{{ .System }} {{ end }}{{ .Prompt }}<end_of_turn> <start_of_turn
136B
license
Gemma 使用条款 最后修改时间:2024 年 2 月 21 日 使用、复制、修改、分发
8.4kB
自述文件
Google 的 Gemma 2 模型提供三种大小:2B、9B 和 27B,采用专为一流性能和效率而设计的全新架构。
一流的性能
Gemma 2 拥有 270 亿个参数,在基准测试中的性能超越了其两倍以上大小的模型。 这一突破性的效率在开放模型领域树立了新标准。
三种大小:2B、9B 和 27B 参数
- 2B 参数
ollama run gemma2:2b
- 9B 参数
ollama run gemma2
- 27B 参数
ollama run gemma2:27b
基准测试
预期用途
开放大型语言模型 (LLM) 在各个行业和领域都有广泛的应用。 以下潜在用途列表并不全面。 此列表的目的是提供有关模型创建者在模型训练和开发过程中考虑的可能用例的上下文信息。
- 内容创作和沟通
- 文本生成:这些模型可用于生成创意文本格式,如诗歌、剧本、代码、营销文案和电子邮件草稿。
- 聊天机器人和对话式 AI:为客户服务、虚拟助理或交互式应用程序提供对话界面。
- 文本摘要:生成文本语料库、研究论文或报告的简明摘要。
- 研究和教育
- 自然语言处理 (NLP) 研究:这些模型可以作为研究人员试验 NLP 技术、开发算法和促进该领域发展的基础。
- 语言学习工具:支持交互式语言学习体验,帮助纠正语法或提供写作练习。
- 知识探索:通过生成摘要或回答有关特定主题的问题,协助研究人员探索大量文本。
将 Gemma 2 与流行工具结合使用
LangChain
from langchain_community.llms import Ollama
llm = Ollama(model="gemma2")
llm.invoke("Why is the sky blue?")
LlamaIndex
from llama_index.llms.ollama import Ollama
llm = Ollama(model="gemma2")
llm.complete("Why is the sky blue?")