mistrallite:7b-v0.1-q3_K_L - Ollama 框架

mistrallite

MistralLite 是一个基于 Mistral 微调的模型，增强了处理长上下文的能力。

7b

28.9K 下载量更新于 15 个月前

更新于 15 个月前

15 个月前

bb7562f0532f · 3.8GB

parameters7.24B

quantizationQ3_K_L

<|prompter|>{{ .System }} {{ .Prompt }}</s><|assistant|>

{ "num_ctx": 32768, "stop": [ "<|prompter|>", "<|assistant|>", "</s>

Readme

Mistrallite 是一个基于 Mistral 微调的模型，增强了处理长上下文（最多 32K tokens）的能力。此模型在多个长上下文检索和回答任务中表现更佳。

参考