来自 Groq 的一系列模型，代表了开源 AI 在工具使用/函数调用方面取得的重大进展。
工具 8b 70b
35.9K Pulls 更新于 3 个月前
3 个月前更新
3 个月前
7e1f34171905 · 50GB
模型
架构llama
·
参数70.6B
·
量化Q5_K_M
50GB
参数
{"stop":["\u003c|start_header_id|\u003e","\u003c|end_header_id|\u003e","\u003c|eot_id|\u003e"]}
96B
模板
{{- if .Messages }} {{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{ .Syste
1.5kB
许可证
META LLAMA 3 COMMUNITY LICENSE AGREEMENT – Adapted For Groq 8B/70B Tool Use Meta Llama 3 Version R
9.8kB
自述文件
这些模型是与 Glaive 合作开发的，代表了开源 AI 在工具使用/函数调用方面取得的重大进展。
基准测试结果
这些模型取得了非凡的成果，为具有工具使用功能的大语言模型设定了新的基准。
- Llama-3-Groq-70B-Tool-Use：整体准确率为 90.76%（在发布时 - 2024 年 7 月 - BFCL 上排名第一）
- Llama-3-Groq-8B-Tool-Use：整体准确率为 89.06%（在发布时 - 2024 年 7 月 - BFCL 上排名第三）