13个月前更新
13个月前
7d04d3730258 · 15GB
模型
架构llama
·
参数337亿
·
量化Q3_K_S
15GB
参数
{ "num_gqa": 8, "rope_frequency_base": 1000000 }
43GB
许可证
# Llama 代码可接受使用策略 Meta 致力于促进其工具的安全和公平使用 an
4.8kB
自述文件
Code Llama 是一个用于生成和讨论代码的模型,构建在 Llama 2 之上。它旨在加快开发人员的工作流程,提高效率,并使人们更容易学习如何编写代码。它可以生成代码和关于代码的自然语言。Code Llama 支持当今许多最流行的编程语言,包括 Python、C++、Java、PHP、Typescript(Javascript)、C#、Bash 等等。
参数计数
参数数量 | ||
---|---|---|
70亿 | 查看 | ollama run codellama:7b |
130亿 | 查看 | ollama run codellama:13b |
340亿 | 查看 | ollama run codellama:34b |
700亿 | 查看 | ollama run codellama:70b |
用法
命令行界面
ollama run codellama "Write me a function that outputs the fibonacci sequence"
API
curl -X POST https://127.0.0.1:11434/api/generate -d '{
"model": "codellama",
"prompt": "Write me a function that outputs the fibonacci sequence"
}'
变体
指令 |
微调以生成有用和安全的自然语言答案 |
python |
Code Llama 的一个专门变体,在 1000 亿个 Python 代码标记上进行了进一步微调 |
代码 |
用于代码补全的基础模型 |
示例提示
提问
ollama run codellama:7b-instruct 'You are an expert programmer that writes simple, concise code and explanations. Write a python function to generate the nth fibonacci number.'
中间填充 (FIM) 或内插
ollama run codellama:7b-code '<PRE> def compute_gcd(x, y): <SUF>return result <MID>'
中间填充 (FIM) 是代码补全模型支持的一种特殊的提示格式,可以在两个已编写的代码块之间完成代码。Code Llama 期待用于内插代码的特定格式
<PRE> {prefix} <SUF>{suffix} <MID>
<PRE>
、<SUF>
和 <MID>
是指导模型的特殊标记。
代码审查
ollama run codellama '
Where is the bug in this code?
def fib(n):
if n <= 0:
return n
else:
return fib(n-1) + fib(n-2)
'
编写测试
ollama run codellama "write a unit test for this function: $(cat example.py)"
代码补全
ollama run codellama:7b-code '# A simple python function to remove whitespace from a string:'