Google 宣布 Firebase Genkit 并支持 Ollama

2024年5月20日

Ollama Firebase Genkit

在 Google IO 2024 上,Google 推出了 Firebase Genkit,它支持 Ollama 在本地机器上运行 Google 的开源 Gemma 模型。Firebase Genkit 是一个新的开源框架,供开发者构建、部署和监控可用于生产环境的 AI 驱动应用程序。

Firebase Genkit UI

入门指南

Firebase Genkit 与 Ollama 兼容,支持 MacOS、Windows、Linux 和 Docker 容器。

安装 Genkit

npm i -g genkit

下载 Google 的 Gemma 模型

ollama pull gemma

如果您尚未安装 Ollama,可以 从此处下载

创建并初始化一个新的 Node.js 项目

mkdir genkit-ollama
cd genkit-ollama
npm init
genkit init

genkit init selecting ollama as a provider

Genkit 现在将在 localhost:4000 运行

Firebase Genkit UI

更多资源