llama3-groq-tool-use:70b-q4_K_S - Ollama 框架

llama3-groq-tool-use

来自 Groq 的一系列模型，代表了开源 AI 在工具使用/函数调用能力方面的重大进步。

tools 8b 70b

46.9K 下载次数更新于 6 个月前

更新于 6 个月前

6 个月前

464bc22f0c7f · 40GB

parameters70.6B

quantizationQ4_K_S

{ "stop": [ "<|start_header_id|>", "<|end_header_id|>", "<|eot_id|>"

{{- if .Messages }} {{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{ .Syste

META LLAMA 3 COMMUNITY LICENSE AGREEMENT – Adapted For Groq 8B/70B Tool Use Meta Llama 3 Version R

自述文件

这些模型与 Glaive 合作开发，代表了开源 AI 在工具使用/函数调用能力方面的重大进步。

基准测试结果

这些模型取得了显著的成果，为具有工具使用能力的大型语言模型树立了新的基准。

Llama-3-Groq-70B-Tool-Use：总体准确率 90.76%（在发布时 BFCL 排名第一 - 2024 年 7 月）
Llama-3-Groq-8B-Tool-Use：总体准确率 89.06%（在发布时 BFCL 排名第三 - 2024 年 7 月）

参考