Llama 3.1 是 Meta 推出的最新一代最先进模型,提供 8B、70B 和 405B 三种参数规模。

工具 8b 70b 405b

8.8M 8 周前

自述文件

Meta Llama 3.1

image.png

Llama 3.1 模型家族

  • 8B
  • 70B
  • 405B

Llama 3.1 405B 是首个公开发布的模型,在通用知识、可控性、数学、工具使用和多语言翻译等方面与顶级 AI 模型相媲美。

升级版的 8B 和 70B 模型支持多语言,并具有 128K 的显著更长的上下文长度、最先进的工具使用和更强大的推理能力。这使得 Meta 的最新模型能够支持更高级的用例,如长文本摘要、多语言对话代理和编码助手。

Meta 还对其许可证进行了修改,允许开发者使用 Llama 模型的输出(包括 405B 模型)来改进其他模型。

模型评估

对于本次发布,Meta 对 150 多个跨越多种语言的基准数据集进行了性能评估。此外,Meta 还进行了广泛的人工评估,将 Llama 3.1 与真实世界场景中的竞争模型进行比较。Meta 的实验评估表明,我们的旗舰模型在包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 在内的各种任务中与领先的基础模型具有竞争力。此外,Meta 的小型模型与具有类似参数数量的封闭模型和开放模型具有竞争力。

image.png

image.png

image.png

参考资料