mistrallite

MistralLite 是一个基于 Mistral 的微调模型，增强了处理长上下文的的能力。

7b

26.1K 拉取更新 12 个月前

更新于 12 个月前

12 个月前

5393d4f5f262 · 4.1GB

<|prompter|>{{ .System }} {{ .Prompt }}</s><|assistant|>

{"num_ctx":32768,"stop":["\u003c|prompter|\u003e","\u003c|assistant|\u003e","\u003c/s\u003e"]}

自述文件

Mistrallite 是一个基于 Mistral 的微调模型，增强了处理长上下文（最多 32K 个 token）的能力。该模型能够在多个长上下文检索和问答任务中表现得明显更好。

参考