Llama 3.1 是 Meta 推出的最新一代最先进模型,提供 8B、70B 和 405B 三种参数规模。

工具 8b 70b 405b

8.8M 8 周前

自述文件

Meta Llama 3.1

image.png

Llama 3.1 模型系列

  • 8B
  • 70B
  • 405B

Llama 3.1 405B 是第一个公开可用的模型,在通用知识、可操控性、数学、工具使用和多语言翻译方面,其能力与顶级 AI 模型相媲美。

8B 和 70B 模型的升级版本支持多语言,上下文长度显著增加到 128K,工具使用方面处于领先水平,推理能力也得到了增强。这使得 Meta 最新一代模型能够支持更高级的用例,例如长篇文本摘要、多语言对话代理和代码助手。

Meta 还修改了许可协议,允许开发者使用 Llama 模型(包括 405B 模型)的输出结果来改进其他模型。

模型评估

在本次发布中,Meta 对 150 多个涵盖多种语言的基准数据集进行了模型性能评估。此外,Meta 还进行了广泛的人工评估,在实际场景中比较了 Llama 3.1 与竞争对手模型。Meta 的实验评估表明,我们的旗舰模型在各种任务中,包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet,都与领先的模型相当。此外,Meta 的小型模型与参数规模相似的闭源模型和开源模型竞争力相当。

image.png

image.png

image.png

参考资料