更新于 15 个月前
15 个月前
8b7dcffd0a8a · 13GB
模型
archllama
·
parameters6.74B
·
quantizationF16
13GB
参数
{ "stop": [ "### System:", "### User:", "### Response:" ] }
52B
系统
You are an AI assistant that follows instruction extremely well. Help as much as you can.
89B
模板
{{- if .System }} ### System: {{ .System }} {{- end }} ### User: {{ .Prompt }} ### Response:
95B
自述
Orca Mini 是一个基于 Llama 和 Llama 2 模型训练的模型,使用了 Orca Style 数据集,该数据集使用 Orca 论文中定义的方法创建:从 GPT-4 的复杂解释轨迹中进行渐进式学习。 有两个变体可用。 最初的 Orca Mini 基于 Llama,参数大小为 30 亿、70 亿和 130 亿,以及基于 Llama 2 的 v3,参数大小为 70 亿、130 亿和 700 亿。
用法
命令行界面
打开终端并运行 ollama run orca-mini
应用程序接口
示例
curl -X POST http://127.0.0.1:11434/api/generate -d '{
"model": "orca-mini",
"prompt":"Why is the sky blue?"
}'
内存要求
- 7b 模型通常至少需要 8GB 内存
- 13b 模型通常至少需要 16GB 内存
- 70b 模型通常至少需要 64GB 内存
参考
3b 参数原始来源: Pankaj Mathur
7b 参数原始来源: Pankaj Mathur
13b 参数原始来源: Pankaj Mathur
Orca Mini v3 在 Ollama 上的来源
13b 参数原始来源: Pankaj Mathur
70b 参数来源: Pankaj Mathur