更新于 12 个月前
12 个月前
7d04d3730258 · 15GB
模型
架构llama
·
参数33.7B
·
量化Q3_K_S
15GB
参数
{"num_gqa":8,"rope_frequency_base":1000000}
43B
许可证
# Llama 代码可接受使用政策 Meta 致力于促进其工具的安全和公正使用
4.8kB
自述文件
Code Llama 是一个用于生成和讨论代码的模型,建立在 Llama 2 之上。它旨在使开发人员的工作流程更快、更高效,并让更多人更容易学习编程。它可以生成代码和关于代码的自然语言。Code Llama 支持当今使用的许多最流行的编程语言,包括 Python、C++、Java、PHP、Typescript(Javascript)、C#、Bash 等等。
参数数量
参数数量 | ||
---|---|---|
70 亿 | 查看 | ollama run codellama:7b |
130 亿 | 查看 | ollama run codellama:13b |
340 亿 | 查看 | ollama run codellama:34b |
700 亿 | 查看 | ollama run codellama:70b |
使用
CLI
ollama run codellama "Write me a function that outputs the fibonacci sequence"
API
curl -X POST https://127.0.0.1:11434/api/generate -d '{
"model": "codellama",
"prompt": "Write me a function that outputs the fibonacci sequence"
}'
变体
instruct |
经过微调以在自然语言中生成有帮助且安全的答案 |
python |
Code Llama 的一个专门变体,在 100B 个 Python 代码令牌上进行了进一步的微调 |
code |
用于代码补全的基础模型 |
示例提示
提问
ollama run codellama:7b-instruct 'You are an expert programmer that writes simple, concise code and explanations. Write a python function to generate the nth fibonacci number.'
中间填充 (FIM) 或插入
ollama run codellama:7b-code '<PRE> def compute_gcd(x, y): <SUF>return result <MID>'
中间填充 (FIM) 是一种由代码补全模型支持的特殊提示格式,可以完成两个已写代码块之间的代码。Code Llama 期望插入代码的特定格式
<PRE> {prefix} <SUF>{suffix} <MID>
<PRE>
、<SUF>
和 <MID>
是指导模型的特殊令牌。
代码审查
ollama run codellama '
Where is the bug in this code?
def fib(n):
if n <= 0:
return n
else:
return fib(n-1) + fib(n-2)
'
编写测试
ollama run codellama "write a unit test for this function: $(cat example.py)"
代码补全
ollama run codellama:7b-code '# A simple python function to remove whitespace from a string:'