一个开源的混合专家代码语言模型,在特定于代码的任务中实现了与 GPT4-Turbo 相当的性能。

16b 236b

395.3K 2 个月前

自述文件

DeepSeek-Coder-V2 是一个开源的混合专家(MoE)代码语言模型,在特定于代码的任务中实现了与 GPT4-Turbo 相当的性能。DeepSeek-Coder-V2 是从 DeepSeek-Coder-V2-Base 进一步预训练的,使用来自高质量和多来源语料库的 6 万亿个标记。

参考文献

Hugging Face