llama2-chinese:13b

llama2-chinese

基于Llama 2模型，经过微调以提升中文对话能力。

7b 13b

140.2K 次拉取更新于 13个月前

35个标签

13个月前更新

13个月前

990f930d55c5 · 7.4GB

{ "stop": [ "Name:", "Assistant:" ] }

31B

模板

{{ .System }} Name: {{ .Prompt }} Assistant:

45B

自述文件

Llama 2 对话中文微调参数模型

这个模型基于Meta Platform, Inc.发布的Llama 2 Chat开源模型进行微调。根据Meta的说法，Llama 2的训练数据达到2万亿个token，上下文长度提升到4096。对话模型使用100万个经过人工标注的数据进行微调。

由于Llama 2本身的中文对齐较弱，开发者采用了中文指令集进行微调，从而提升其中文对话能力。目前这个中文微调参数模型共发布了7B和13B两种参数大小。

Llama 2 chat 中文微调模型

此模型基于Meta Platform的Llama 2 Chat开源模型进行微调。根据Meta的说法，Llama 2 使用2万亿个token进行训练，上下文长度增加到4096。对话模型使用100万个经过人工标注的数据进行微调。

由于Llama 2本身的中文对齐能力相对较弱，开发者采用了中文指令集进行微调，以提升其中文对话能力。

中文微调模型提供7B和13B两种参数大小。

命令行界面 (CLI)

打开终端并运行ollama run llama2-chinese

API

运行模型

curl -X POST https://127.0.0.1:11434/api/generate -d '{
  "model": "llama2-chinese:7b-chat-q4_0",
  "prompt":"为什么天空是蓝色的"
 }'

内存需求

7b模型通常至少需要8GB内存
13b模型通常至少需要16GB内存

参考

FlagAlpha

Llama 2 对话中文微调参数模型

这个模型是基于 Meta Platform, Inc. 所发布的 Llama 2 Chat 开源模型来进行微调。根据Meta，Llama 2 的训练数据达到了两万亿个token，上下文长度也提升到4096。对话上也是使用100万人类标记的数据微调。

由于 Llama 2 本身的中文对齐比较弱，开发者采用了中文指令集来进行微调，使其具备较强的中文对话能力。目前这个中文微调参数模型总共发布了 7B，13B两种参数大小。

Llama 2 chat chinese fine-tuned model

This model is fine-tuned based on Meta Platform's Llama 2 Chat open source model. According to Meta, Llama 2 is trained on 2 trillion tokens, and the context length is increased to 4096. The chat model is fine-tuned using 1 million human labeled data.

Since the Chinese alignment of Llama 2 itself is relatively weak, the developer, adopted a Chinese instruction set for fine-tuning to improve the Chinese dialogue ability.

The Chinese fine-tuned models are available in 7B and 13B parameter sizes.

### CLI

Open the terminal and run `ollama run llama2-chinese`

### API

Run the model

```bash
curl -X POST https://127.0.0.1:11434/api/generate -d '{
  "model": "llama2-chinese:7b-chat-q4_0",
  "prompt":"为什么天空是蓝色的"
 }'
  ```

## Memory requirements

- 7b models generally require at least 8GB of RAM
- 13b models generally require at least 16GB of RAM

## Reference
[FlagAlpha](https://hugging-face.cn/FlagAlpha/Llama2-Chinese-7b-Chat)

[FlagAlpha](https://hugging-face.cn/FlagAlpha/Llama2-Chinese-13b-Chat)

粘贴、拖放或点击上传图片（.png，.jpeg，.jpg，.svg，.gif）