Google 宣布 Firebase Genkit 支持 Ollama

2024 年 5 月 20 日

Ollama Firebase Genkit

在 Google IO 2024 上,Google 发布了 Firebase Genkit,它支持 Ollama 在您的本地机器上运行 Google 的开源 Gemma 模型。 Firebase Genkit 是一个新的开源框架,供开发人员构建、部署和监控生产就绪的 AI 驱动的应用程序。

Firebase Genkit UI

开始使用

Firebase Genkit 可以在 MacOS、Windows、Linux 以及通过 Docker 容器与 Ollama 一起使用。

安装 Genkit

npm i -g genkit

下载 Google 的 Gemma 模型

ollama pull gemma

如果您没有安装 Ollama,可以在此下载

创建并初始化一个新的 node.js 项目

mkdir genkit-ollama
cd genkit-ollama
npm init
genkit init

genkit init selecting ollama as a provider

Genkit 现在将在 localhost:4000 上运行

Firebase Genkit UI

更多资源