Google 宣布 Firebase Genkit 支持 Ollama

2024 年 5 月 20 日

Ollama Firebase Genkit

在 Google IO 2024 上,Google 发布了 Firebase Genkit,它支持 Ollama 在本地运行 Google 开源的 Gemma 模型。Firebase Genkit 是一个新的开源框架,允许开发者构建、部署和监控生产就绪的 AI 驱动的应用程序。

Firebase Genkit UI

入门

Firebase Genkit 与 Ollama 可以在 macOS、Windows、Linux 和 Docker 容器上运行。

安装 Genkit

npm i -g genkit

下载 Google 的 Gemma 模型

ollama pull gemma

如果您没有安装 Ollama,可以 在这里下载

创建并初始化一个新的 node.js 项目

mkdir genkit-ollama
cd genkit-ollama
npm init
genkit init

genkit init selecting ollama as a provider

Genkit 现在将在 localhost:4000 上运行

Firebase Genkit UI

更多资源