由 Groq 开发的一系列模型，代表了开源 AI 在工具使用/函数调用能力方面的重大进步。
工具 8b 70b
39.4K 拉取次数 更新于 4 个月前
更新于 4 个月前
4 个月前
696d50e6fc55 · 40GB
模型
架构llama
·
参数70.6B
·
量化Q4_0
40GB
参数
{ "stop": [ "<|start_header_id|>", "<|end_header_id|>", "<|eot_id|>"
96B
模板
{{- if .Messages }} {{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{ .Syste
1.7kB
许可
META LLAMA 3 社区许可协议 – 针对 Groq 8B/70B 工具使用 Meta Llama 3 版本进行了调整
9.8kB
自述文件
这些模型是与 Glaive 合作开发的，代表了开源 AI 在工具使用/函数调用能力方面的重大进步。
基准测试结果
这些模型取得了显著的成果，为具有工具使用能力的大型语言模型设定了新的基准
- Llama-3-Groq-70B-Tool-Use：总体准确率为 90.76%（发布时在 BFCL 上排名第一 - 2024 年 7 月）
- Llama-3-Groq-8B-Tool-Use：总体准确率为 89.06%（发布时在 BFCL 上排名第三 - 2024 年 7 月）