8 周前更新
8 周前
9ab0ea61e9d6 · 195GB
模型
架构llama
·
参数406B
·
量化Q3_K_M
195GB
参数
{"stop":["\u003c|start_header_id|\u003e","\u003c|end_header_id|\u003e","\u003c|eot_id|\u003e"]}
96B
模板
{{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{- if .System }} {{ .System
1.5kB
许可证
LLAMA 3.1 社区许可协议 Llama 3.1 版本发布日期：2024 年 7 月 23 日 “协议”
12kB
自述文件
Meta Llama 3.1
Llama 3.1 模型系列
- 8B
- 70B
- 405B
Llama 3.1 405B 是首个公开发布的模型，在一般知识、可控性、数学、工具使用和多语言翻译等方面的最先进能力方面，可与顶级 AI 模型相媲美。
8B 和 70B 模型的升级版本是多语言的，具有显著更长的 128K 上下文长度，最先进的工具使用能力以及更强大的整体推理能力。这使 Meta 的最新模型能够支持高级用例，例如长篇文本摘要、多语言对话代理和编码助手。
Meta 还对其许可证进行了更改，允许开发人员使用 Llama 模型（包括 405B 模型）的输出结果来改进其他模型。
模型评估
对于此版本，Meta 评估了超过 150 个基准数据集上的性能，这些数据集涵盖了多种语言。此外，Meta 还进行了广泛的人工评估，将 Llama 3.1 与现实世界场景中的竞争模型进行比较。Meta 的实验评估表明，我们的旗舰模型在各种任务中与领先的基础模型竞争，包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet。此外，Meta 的较小模型与具有相似参数数量的封闭模型和开放模型竞争。