mannix / wizardlm2

来自微软AI的尖端大型语言模型，在复杂聊天、多语言、推理和代理使用案例上性能改进。更多量化。

7B

43 pulls 4个月前更新

4个月前

59c096c63c6e · 2.2GB

模型
llama
·
7.24B
·
IQ2_XS
系统
用户与人工智能助手之间的对话。助手对用户的问题给出有用、详细且礼貌的回答。
参数
{"num_ctx":4096,"stop":["USER:","ASSISTANT:"]}
模板
{{ if .System }}{{ .System }} {{ end }}{{ if .Prompt }}用户: {{ .Prompt }} {{ end }}助手: {{ .Response }}

阅读指南

WizardLM-2 是一款下一代最先进的大型语言模型，在复杂聊天、多语言、推理和代理用例中具有改进的性能。这个系列包括三个尖端模型

  • wizardlm2:7b: 最快的模型，性能与 10 倍更大的开源模型相当。所有量化都是使用 i-matrix 完成的。
  • wizardlm2:8x22b: 最先进的模型，并且是微软在高度复杂任务上的内部评估中最佳的开放源代码 LLM。目前不使用 i-matrix。

这些是来自官方 fp16 模型的额外量化
(wizardlm2)[https://ollama.org.cn/library/wizardlm2]