自述文件
Qwen2.5-Coder 是最新版本的代码专用 Qwen 大型语言模型系列(以前称为 CodeQwen)。对于 Qwen2.5-Coder,将发布三个基础语言模型和指令调整的语言模型,分别为 1.5 亿、7 亿和 32 亿(即将推出)个参数。
- 在代码生成、代码推理和代码修复方面取得了显著进步。基于强大的 Qwen2.5,我们将训练代币扩展到 5.5 万亿个,包括源代码、文本-代码接地、合成数据等。
- 为现实世界应用(如代码代理)提供更全面的基础。不仅增强了编码能力,而且保留了其在数学和一般能力方面的优势。
- 支持最长 128K 个代币的上下文。