llama2-uncensored:70b-chat-q8_0 - Ollama 框架

llama2-uncensored

George Sung 和 Jarrad Hope 基于无审查的 Llama 2 模型。

7b 70b

45.9万下载量更新于 15 个月前

更新于 15 个月前

15 个月前

256b13d53838 · 73GB

quantizationQ8_0

{ "num_gqa": 8, "stop": [ "### HUMAN:", "### RESPONSE:" ] }

{{ .System }} ### HUMAN: {{ .Prompt }} ### RESPONSE:

# Llama 2 Acceptable Use Policy Meta 致力于推广安全和公平地使用其工具和功能

LLAMA 2 COMMUNITY LICENSE AGREEMENT Llama 2 Version Release Date: July 18, 2023 "Agreement" means

Readme

Llama 2 Uncensored 基于 Meta 的 Llama 2 模型，由 George Sung 和 Jarrad Hope 按照 Eric Hartford 在他的博客文章中定义的过程创建。

CLI

打开终端并运行 ollama run llama2-uncensored

API

示例

curl -X POST http://127.0.0.1:11434/api/generate -d '{
  "model": "llama2-uncensored",
  "prompt":"Write a recipe for dangerously spicy mayo."
 }'

内存需求

7b 模型通常至少需要 8GB 内存
70b 模型通常至少需要 64GB 内存

参考

https://erichartford.com/uncensored-models

7b 参数原始来源: George Sung

70b 参数原始来源: George Sung