自述文件
Falcon 是由技术创新研究院 (TII) 开发的一系列高性能大型语言模型,TII 是阿布扎比政府先进技术研究委员会的一部分,负责监督技术研究。
CLI
ollama run falcon "Why is the sky blue?"
API
curl -X POST https://127.0.0.1:11434/api/generate -d '{
"model": "falcon",
"prompt": "Why is the sky blue?"
}'
参数数量
参数数量 | 推荐内存 | ||
---|---|---|---|
70 亿 | 8GB | 查看 | ollama run falcon:7b |
400 亿 | 32GB | 查看 | ollama run falcon:40b |
1800 亿 | 192GB | 查看 | ollama run falcon:180b |
变体
聊天 |
聊天模型在包含多个大型对话数据集的聊天和指令数据集上进行了微调。 |
指令 |
指令模型遵循指令,并在 baize 指令数据集上进行了微调。 |
文本 |
文本模型是基础模型,没有经过对话的微调,最适合用于简单的文本补全。 |
Falcon 180B
截至 2023 年 9 月,1800 亿参数模型 Falcon 180B 是性能最好的公开发布的 LLM。它介于 OpenAI 的 GPT 3.5 和 GPT 4 之间。为了运行 Falcon 180B,建议使用至少 192GB 内存的强大系统。
注意:Falcon 180B 的发布许可与它的小型兄弟姐妹不同,它在特定条件下限制了商业用途。请参阅 模型详细信息 和许可证以了解更多信息。