一个开源的混合专家 (MoE) 代码语言模型,在代码特定任务中实现了与 GPT4-Turbo 相当的性能。
16b 236b
536.5K 拉取次数 更新于 5 个月前
自述文件
DeepSeek-Coder-V2 是一个开源的混合专家 (MoE) 代码语言模型,在代码特定任务中实现了与 GPT4-Turbo 相当的性能。DeepSeek-Coder-V2 是从 DeepSeek-Coder-V2-Base 进一步预训练而来,使用了来自高质量和多来源语料库的 6 万亿个 tokens。