更新于 13 个月前
13 个月前
75df67be3cee · 3.8GB
model
架构llama
·
参数6.74B
·
量化Q4_0
3.8GB
params
{ "num_ctx": 65536 }
17B
自述文件
Yarn Llama 2 是一个基于 Llama2 的模型,它将其上下文大小扩展到 128k 上下文。它由 Nous Research 通过实施 YaRN 方法进一步训练模型以支持更大的上下文窗口而开发。
命令行
64k 上下文大小
ollama run yarn-llama2
128k 上下文大小
ollama run yarn-llama2:7b-128k
API
示例
curl -X POST https://127.0.0.1:11434/api/generate -d '{
"model": "yarn-llama2:7b-128k",
"prompt":"Here is a story about llamas eating grass"
}'