一系列来自 Groq 的模型,代表着开源 AI 在工具使用/函数调用能力方面的一项重大进步。
工具 8b 70b
39.4K 拉取 更新于 4个月前
4个月前更新
4个月前
5c52fd8e4ba7 · 49GB
模型
架构llama
·
参数70.6B
·
量化Q5_0
49GB
参数
{ "stop": [ "<|start_header_id|>", "<|end_header_id|>", "<|eot_id|>"
96B
模板
{{- if .Messages }} {{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{ .Syste
1.7kB
许可证
META LLAMA 3 社区许可协议 – 适用于 Groq 8B/70B 工具使用的改编版本 Meta Llama 3 版本 R
9.8kB
自述文件
这些模型是与Glaive合作开发的,代表着开源 AI 在工具使用/函数调用能力方面的一项重大进步。
基准测试结果
这些模型取得了显著的成果,为具有工具使用能力的大型语言模型设定了新的基准。
- Llama-3-Groq-70B-Tool-Use:整体准确率 90.76%(在发布时(2024年7月)BFCL 排名第一)
- Llama-3-Groq-8B-Tool-Use:整体准确率 89.06%(在发布时(2024年7月)BFCL 排名第三)