一个开源的混合专家代码语言模型,在特定代码任务中实现了与 GPT4-Turbo 相媲美的性能。

16b 236b

395.3K 2 个月前

自述文件

DeepSeek-Coder-V2 是一个开源的混合专家(MoE)代码语言模型,在特定代码任务中实现了与 GPT4-Turbo 相媲美的性能。DeepSeek-Coder-V2 在 DeepSeek-Coder-V2-Base 的基础上进一步预训练,训练数据来自一个高质量的多源语料库,共计 6 万亿个词元。

参考资料

Hugging Face