Llama 3

Llama 3 现在可以使用 Ollama 运行了。

要开始使用，下载 Ollama 并运行 Llama 3

ollama run llama3

最强大的模型

Llama 3 代表了相对于 Llama 2 和其他公开可用模型的巨大改进

• 在比 Llama 2 大七倍的数据集上训练
• 上下文长度是 Llama 2 的两倍，达到 8K
• 使用更大的 128K 词元词汇表，更有效地编码语言
• 与 Llama 2 相比，虚假“拒绝”的情况减少到少于 ¹⁄₃

两种尺寸：8B 和 70B 参数

Llama 3 的初始版本包括两种尺寸

• 8B 参数 ollama run llama3:8b
• 70B 参数 ollama run llama3:70b

将 Llama 3 与流行的工具结合使用

LangChain

from langchain_community.llms import Ollama
llm = Ollama(model="llama3")
llm.invoke("Why is the sky blue?")

LlamaIndex

from llama_index.llms.ollama import Ollama
llm = Ollama(model="llama3")
llm.complete("Why is the sky blue?")

下一步是什么

Meta 计划发布 400B 参数的 Llama 3 模型以及更多模型。在未来几个月内，他们将发布具有新功能的多个模型，包括多模态、多语言对话能力、更长的上下文窗口和更强大的整体能力。