更新于 15 个月前
15 个月前
38f49b2673e7 · 57GB
模型
架构llama
·
参数69B
·
量化Q6_K
57GB
参数
{ "num_gqa": 8, "stop": [ "### HUMAN:", "### RESPONSE:" ] }
51B
模板
{{ .System }} ### HUMAN: {{ .Prompt }} ### RESPONSE:
55B
许可
# Llama 2 可接受使用政策 Meta 致力于推广安全和公平地使用其工具和 f
4.8kB
许可
LLAMA 2 社区许可协议 Llama 2 版本发布日期:2023 年 7 月 18 日 “协议” 指的是
7.0kB
Readme
Llama 2 Uncensored 基于 Meta 的 Llama 2 模型,由 George Sung 和 Jarrad Hope 按照 Eric Hartford 在其博客文章中定义的过程创建。
CLI
打开终端并运行 ollama run llama2-uncensored
API
示例
curl -X POST http://127.0.0.1:11434/api/generate -d '{
"model": "llama2-uncensored",
"prompt":"Write a recipe for dangerously spicy mayo."
}'
内存需求
- 7b 模型通常至少需要 8GB 内存
- 70b 模型通常至少需要 64GB 内存
参考
https://erichartford.com/uncensored-models
7b 参数原始来源: George Sung
70b 参数原始来源: George Sung