谷歌宣布 Firebase Genkit 支持 Ollama

2024 年 5 月 20 日

Ollama Firebase Genkit

在 2024 年 Google IO 大会上,谷歌发布了 Firebase Genkit,该框架支持 Ollama 在本地机器上运行谷歌的开源 Gemma 模型。Firebase Genkit 是一个新的开源框架,供开发者构建、部署和监控生产就绪的 AI 驱动的应用程序。

Firebase Genkit UI

开始使用

Firebase Genkit 可在 MacOS、Windows、Linux 以及通过 Docker 容器与 Ollama 协同工作。

安装 Genkit

npm i -g genkit

下载谷歌的 Gemma 模型

ollama pull gemma

如果您没有安装 Ollama,可以从此处下载

创建并初始化一个新的 node.js 项目

mkdir genkit-ollama
cd genkit-ollama
npm init
genkit init

genkit init selecting ollama as a provider

Genkit 现在将在 localhost:4000 上运行

Firebase Genkit UI

更多资源