自述文件
Falcon 是由技术创新研究所 (TII) 构建的一系列高性能大型语言模型，该研究所是阿布扎比政府高级技术研究委员会的一部分，负责监督技术研究。
CLI
ollama run falcon "Why is the sky blue?"
API
curl -X POST https://127.0.0.1:11434/api/generate -d '{
"model": "falcon",
"prompt": "Why is the sky blue?"
}'
参数计数
| 参数数量 | 推荐内存 | ||
|---|---|---|---|
| 70 亿 | 8GB | 查看 | ollama run falcon:7b |
| 400 亿 | 32GB | 查看 | ollama run falcon:40b |
| 1800 亿 | 192GB | 查看 | ollama run falcon:180b |
变体
chat |
聊天模型在聊天和指令数据集上进行了微调，其中混合了几个大规模对话数据集。 |
instruct |
Instruct 模型遵循指令，并在 baize 指令数据集上进行了微调。 |
text |
文本模型是没有任何对话微调的基础模型，最适合用于简单的文本完成。 |
Falcon 180B
截至 2023 年 9 月，拥有 1800 亿个参数的模型 Falcon 180B 是性能最佳的公开 LLM。它介于 OpenAI 的 GPT 3.5 和 GPT 4 之间。对于运行 Falcon 180B，建议使用至少 192GB 总内存的强大系统。
注意：Falcon 180B 以不同于其较小同级的许可发布，该许可限制了在某些条件下的商业用途。有关更多信息，请参阅模型详细信息和许可。