TinyLlama

TinyLlama 项目是一个开放的尝试，旨在训练一个紧凑的 1.1B Llama 模型，使用 3 万亿个标记进行训练。

1.1b

275.2K 拉取请求更新于 10 个月前

更新于 10 个月前

10 个月前

2644915ede35 · 638MB

你是一个乐于助人的 AI 助手。

<|system|> {{ .System }}</s> <|user|> {{ .Prompt }}</s> <|assistant|>

{"stop":["\u003c|system|\u003e","\u003c|user|\u003e","\u003c|assistant|\u003e","\u003c/s\u003e"]}

自述文件

TinyLlama 是一个紧凑的模型，只有 1.1B 个参数。这种紧凑性使其能够适应许多需要有限计算和内存占用的应用。

参考资料