谷歌宣布 Firebase Genkit 支持 Ollama
2024 年 5 月 20 日
在 2024 年 Google IO 大会上,谷歌发布了 Firebase Genkit,该框架支持 Ollama 在本地机器上运行谷歌的开源 Gemma 模型。Firebase Genkit 是一个新的开源框架,供开发者构建、部署和监控生产就绪的 AI 驱动的应用程序。
开始使用
Firebase Genkit 可在 MacOS、Windows、Linux 以及通过 Docker 容器与 Ollama 协同工作。
安装 Genkit
npm i -g genkit
下载谷歌的 Gemma 模型
ollama pull gemma
如果您没有安装 Ollama,可以从此处下载。
创建并初始化一个新的 node.js 项目
mkdir genkit-ollama
cd genkit-ollama
npm init
genkit init
Genkit 现在将在 localhost:4000 上运行