8 周前更新
8 周前
dbd6b9ea93de · 243GB
模型
架构llama
·
参数406B
·
量化Q4_K_M
243GB
参数
{"stop":["\u003c|start_header_id|\u003e","\u003c|end_header_id|\u003e","\u003c|eot_id|\u003e"]}
96B
模板
{{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{- if .System }} {{ .System
1.5kB
许可证
LLAMA 3.1 社区许可协议 Llama 3.1 版本发布日期:2024 年 7 月 23 日 “协议”
12kB
自述文件
Meta Llama 3.1
Llama 3.1 模型系列可用
- 8B
- 70B
- 405B
Llama 3.1 405B 是第一个公开可用的模型,在一般知识、可控性、数学、工具使用和多语言翻译方面,其能力与顶尖人工智能模型相媲美。
8B 和 70B 模型的升级版本是多语言的,上下文长度显著增加到 128K,具有最先进的工具使用能力,并具有更强大的推理能力。 这使得 Meta 的最新模型能够支持高级用例,例如长篇文本摘要、多语言对话代理和编码助手。
Meta 还对其许可证进行了更改,允许开发者使用 Llama 模型(包括 405B 模型)的输出结果来改进其他模型。
模型评估
对于此次发布,Meta 对 150 多个基准数据集进行了性能评估,这些数据集涵盖了多种语言。 此外,Meta 进行了广泛的人工评估,将 Llama 3.1 与现实世界场景中的竞争模型进行比较。 Meta 的实验评估表明,我们的旗舰模型在各种任务中,包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet,与领先的基础模型具有竞争力。 此外,Meta 的小型模型与参数数量相似的封闭和开放模型具有竞争力。