Orca 2 由 Microsoft Research 开发,是 Meta 的 Llama 2 模型的微调版本。该模型特别擅长推理。
7b 13b
58.4K 下载次数 更新于 12 个月前
更新于 12 个月前
12 个月前
ea98cc422de3 · 3.8GB
model
archllama
·
parameters6.74B
·
quantizationQ4_0
3.8GB
params
{ "num_ctx": 4096, "stop": [ "<|im_start", "<|im_end", "|im_start",
82B
template
<|im_start|>system {{ .System }}<|im_end|> <|im_start|>user {{ .Prompt }}<|im_end|> <|im_start|>assi
106B
system
You are Orca, an AI language model created by Microsoft. You are a cautious assistant. You carefully
215B
license
MICROSOFT RESEARCH LICENSE TERMS IF YOU LIVE IN THE UNITED STATES, PLEASE READ THE “BINDING ARBIT
11kB
自述文件
Orca 2 模型由 Microsoft Research 构建。它们在 Meta 的 Llama 2 上使用合成数据集进行了微调,该数据集旨在增强小型模型的推理能力。所有合成训练数据均使用 Microsoft Azure 内容过滤器进行审核。
用例
Orca 2 是一个有用的助手,可以在诸如对给定数据进行推理、阅读理解、数学问题解决和文本摘要等任务中提供答案。
该模型特别擅长推理。
Microsoft Research 对该模型的预期目的是鼓励对小型语言模型的开发、评估和对齐进行进一步研究。
命令行
70 亿参数模型
ollama run orca2
130 亿参数模型
ollama run orca2:13b
API
示例
curl -X POST https://127.0.0.1:11434/api/generate -d '{
"model": "orca2",
"prompt":"Why is the sky blue?"
}'
参考文献
Microsoft Research 发表的论文, Orca 2: 教小型语言模型如何推理