Llama 3

Llama 3 现在可以使用 Ollama 运行。

要开始使用，下载 Ollama 并运行 Llama 3

ollama run llama3

性能最强的模型

Llama 3 代表了对 Llama 2 和其他公开可用模型的重大改进

• 在比 Llama 2 大七倍的数据集上训练
• 上下文长度是 Llama 2 的两倍，达到 8K
• 使用更大的token词汇表（128K tokens）更有效地编码语言
• 与 Llama 2 相比，虚假“拒绝”的情况减少了 ¹⁄₃

两种尺寸：8B 和 70B 参数

Llama 3 的初始版本包括两种尺寸

• 8B 参数 ollama run llama3:8b
• 70B 参数 ollama run llama3:70b

将 Llama 3 与流行的工具结合使用

LangChain

from langchain_community.llms import Ollama
llm = Ollama(model="llama3")
llm.invoke("Why is the sky blue?")

LlamaIndex

from llama_index.llms.ollama import Ollama
llm = Ollama(model="llama3")
llm.complete("Why is the sky blue?")

下一步是什么

Meta 计划发布一个 400B 参数的 Llama 3 模型以及更多模型。 在接下来的几个月中，他们将发布具有新功能的多个模型，包括多模态、以多种语言对话的能力、更长的上下文窗口以及更强大的整体功能。