13个月前更新
13个月前
07eb9c33537f · 29GB
模型
架构llama
·
参数69B
·
量化Q2_K
29GB
参数
{ "num_gqa": 8, "stop": [ "### HUMAN:", "### RESPONSE:" ] }
51B
模板
{{ .System }} ### HUMAN: {{ .Prompt }} ### RESPONSE:
55B
许可证
# Llama 2 可接受使用策略 Meta 致力于促进其工具的安全和公平使用 f
4.8kB
许可证
LLAMA 2 社区许可协议 Llama 2 版本发布日期:2023年7月18日 "协议" 指
7.0kB
自述文件
Llama 2 Uncensored 基于 Meta 的 Llama 2 模型,由 George Sung 和 Jarrad Hope 使用 Eric Hartford 在其博文中定义的过程创建。
命令行界面
打开终端并运行 ollama run llama2-uncensored
API
示例
curl -X POST https://127.0.0.1:11434/api/generate -d '{
"model": "llama2-uncensored",
"prompt":"Write a recipe for dangerously spicy mayo."
}'
内存需求
- 7b 模型通常至少需要 8GB 的 RAM
- 70b 模型通常至少需要 64GB 的 RAM
参考
https://erichartford.com/uncensored-models
7b 参数原始来源:George Sung
70b 参数原始来源:George Sung