mistrallite:7b-v0.1-q5_K_M - Ollama 框架

mistrallite

MistralLite 是一个基于 Mistral 的微调模型，具有增强的长上下文处理能力。

7b

27.1K 拉取更新于 13个月前

13个月前更新

13个月前

7a3f8c87136f · 5.1GB

<|prompter|>{{ .System }} {{ .Prompt }}</s><|assistant|>

{ "num_ctx": 32768, "stop": [ "<|prompter|>", "<|assistant|>", "</s>

自述文件

Mistrallite 是一个基于 Mistral 的微调模型，具有增强的长上下文处理能力（最多 32K 个 token）。该模型在多个长上下文检索和问答任务上的表现显著优于其他模型。

参考