Llama 3

Llama 3 现在可以使用 Ollama 运行。

要开始使用，请 下载 Ollama 并运行 Llama 3

ollama run llama3

最强大的模型

Llama 3 在 Llama 2 和其他公开可用的模型方面有了很大改进

• 在比 Llama 2 大七倍的数据集上进行训练
• 将 Llama 2 的 8K 上下文长度翻倍
• 使用具有 128K 个标记的更大的标记词汇表，更有效地编码语言
• 与 Llama 2 相比，虚假“拒绝”减少了 ¹⁄₃ 以上

两种尺寸：8B 和 70B 参数

Llama 3 的初始版本包括两种尺寸

• 8B 参数 ollama run llama3:8b
• 70B 参数 ollama run llama3:70b

使用 Llama 3 与流行的工具

LangChain

from langchain_community.llms import Ollama
llm = Ollama(model="llama3")
llm.invoke("Why is the sky blue?")

LlamaIndex

from llama_index.llms.ollama import Ollama
llm = Ollama(model="llama3")
llm.complete("Why is the sky blue?")

下一步

Meta 计划发布一个 400B 参数的 Llama 3 模型以及更多。在接下来的几个月里，他们将发布多个具有新功能的模型，包括多模态、多语言对话的能力、更长的上下文窗口以及更强大的整体功能。