Mistral AI 发布的 7B 模型,更新至版本 0.3。

工具 7b

5M 3 个月前

自述文件

Mistral 是一个 7B 参数模型,采用 Apache 许可证发布。它既有指令跟随 (instruction following) 版本,也有文本补全版本。

Mistral AI 团队指出,Mistral 7B

  • 在所有基准测试中都优于 Llama 2 13B
  • 在许多基准测试中都优于 Llama 1 34B
  • 在代码方面接近 CodeLlama 7B 的性能,同时在英文任务方面仍然表现良好

版本

标签 日期 备注
v0.3 最新 05/22/2024 Mistral 7B 的新版本,支持函数调用。
v0.2 03/23/2024 Mistral 7B 的一个小版本发布
v0.1 09/27/2023 初始版本

函数调用

Mistral 0.3 支持使用 Ollama 的**原始模式**进行函数调用。

原始提示示例

[AVAILABLE_TOOLS] [{"type": "function", "function": {"name": "get_current_weather", "description": "Get the current weather", "parameters": {"type": "object", "properties": {"location": {"type": "string", "description": "The city and state, e.g. San Francisco, CA"}, "format": {"type": "string", "enum": ["celsius", "fahrenheit"], "description": "The temperature unit to use. Infer this from the users location."}}, "required": ["location", "format"]}}}][/AVAILABLE_TOOLS][INST] What is the weather like today in San Francisco [/INST]

响应示例

[TOOL_CALLS] [{"name": "get_current_weather", "arguments": {"location": "San Francisco, CA", "format": "celsius"}}]

有关原始模式的更多信息,请参阅API 文档

变体

instruct 指令模型遵循指令
text 文本模型是基础模型,没有针对对话进行任何微调,最适合用于简单的文本补全。

用法

CLI

Instruct

ollama run mistral

API

示例

curl -X POST https://127.0.0.1:11434/api/generate -d '{
  "model": "mistral",
  "prompt":"Here is a story about llamas eating grass"
 }'

参考资料

HuggingFace

Mistral AI 新闻发布