mistrallite

MistralLite 是基于 Mistral 的微调模型，增强了处理长文本的能力。

7b

26.1K Pulls 更新于 12 个月前

更新于 12 个月前

12 个月前

e09d24104dd5 · 5.4GB

<|prompter|>{{ .System }} {{ .Prompt }}</s><|assistant|>

{"num_ctx":32768,"stop":["\u003c|prompter|\u003e","\u003c|assistant|\u003e","\u003c/s\u003e"]}

自述文件

Mistrallite 是基于 Mistral 的微调模型，增强了处理长文本的能力（高达 32K 个词元）。该模型在几个长文本检索和问答任务中表现明显优于其他模型。

参考