发表于:2025年3月26日 /更新,发表于:2025年3月26日 - 作者: Konrad Wolfenstein
DeepSeek V3改善了推理和编程
开源Ki的未来:DeepSeek发布V3更新
2025年3月25日,DeepSeek发布了其V3语言模型的重要更新,称为DeepSeek-V3-0324。该新版本在推理,编程和前端开发等领域显示出显着改善。凭借令人印象深刻的基准结果以及在强大的消费硬件上运行的可能性,DeepSeek-V3-0324将自己定位为领先的开源AI模型,挑战专有解决方案。
适合:
技术基础和建筑
专家的混合物作为关键技术
DeepSeek V3-0324基于创新的Experts(MOE)架构,将其与许多其他AI模型区分开来。该体系结构使系统不为每个任务激活模型的所有部分,而只能激活相应请求所需的特定组件。它的工作方式就像一个专家团队,其中只有合适的专家用于解决问题。
当前模型总共有6850亿个参数,其中每个任务仅激活约370亿个参数。这种选择性激活可以显着更有效地处理,并大大降低了资源需求。
改善性能的创新技术
DeepSeek-V3-0324介绍了两项提高其性能的中心技术创新:
- 多头潜在注意力(MLA):该技术将钥匙值缓存压缩到潜在的矢量中,从而优化了较长文本的处理并大大减少了内存需求。
- 多言论预测(MTP):可以同时生成几个令牌,从而将输出速度提高高达80%。
- 此外,DeepSeek使用V3混合精度算术,其中在同一操作中以不同的长度和精度进行润滑剂组合学。降低的准确性会增加时间,而不会显着影响结果的质量。
绩效改进和基准结果
在不同领域的重大进展
DeepSeek-V3-0324与其前身在几个关键领域相比显示出显着改善:
- 推理能力 - 基准结果显示出显着增加,尤其是对于复杂的任务:
- MMLU-PRO:从75.9到81.2(+5.3点)
- GPQA:从59.1到68.4(+9.3分)
- Aime(美国邀请数学考试):从39.6到59.4(+19.8分)
- Livecodebech:从39.2到49.2(+10.0点)
- 前端开发:提高技能,创建可执行的代码以及美学上吸引人的网站和游戏前端。
- 中文技能:改进的写作技巧,具有更好的风格和质量,以中型到长格式的文本,优化的翻译质量和信函。
在AI比赛中定位
DeepSeek-V3-0324现在是人工分析智能指数中评分最高的非阅读模型。它超过了所有专有的非读取模型,包括Gemini 2.0 Pro,Claude 3.7十四行诗和Llama 3.3 70B。在情报指数中,它直接落后于DeepSeek自己的R1模型以及来自OpenAAI,Anthropic和Alibaba的其他推理模型。
在诸如Drop之类的测试中,DeepSeek取得了令人印象深刻的91.6%,而GPT-4O达到83.7%,Claude 3.5 88.3%。与领先的专有解决方案相比,这些结果强调了该模型的竞争力。
效率和可及性
资源优化和硬件要求
DeepSeek-V3-0324最引人注目的特性之一是其效率。通过MOE体系结构和其他优化,该模型可以在功能强大的消费设备(例如具有M3 Ultra Chip的Mac Studio)上操作,其中可以实现每秒20多个令牌的速度。
该型号的4位版本只需要大约352 GB的存储空间,并且在推理中比传统的AI系统少的时间少于200瓦,这通常需要几千瓦时。这种效率可以重新定义AI基础架构的要求。
开放许可和可用性
与仅通过付费API提供模型的西方竞争对手(例如OpenAAI或Anthropic)相反,DeepSeek-V3-0324在共同执照下出版了。这使得无限制的免费使用和商业插入物。
该模型在各种平台上可用:
- 通过DeepSeek应用程序
- 在官方网站上
- 通过编程接口(API)
- 作为您自己的计算机上的安装
- 关于Microsoft Azure Cloud
适合:
企业历史和愿景
从金融世界到AI研究
DeepSeek由Liang Wenfeng于2023年4月成立,Liang Wenfeng此前在2015年创立了Heggink Heg-Flyer。对冲基金专门从事数学和AI支持的贸易策略,为后来的AI开发奠定了基础。
该公司是基于美国从高科技筹码到中国实施的出口禁令的背景。 DeepSeek实现了为西部AI解决方案提供强大而有竞争力的替代方案的战略目标,同时又加强了中国的技术主权。
开放哲学
根据Liang Wenfeng的说法,该公司的研究结果和模型始终在开源许可下发布,这是企业文化的一部分。这种开放性与以限制性许可为特征的众多专有AI系统相反。
该公司在其网站上描述了其理念。
前景和未来的发展
新模型的基础
DeepSeek-V3-0324可以作为称为R2的新推理模型的基础,该模型将在未来几周内出版。当前的R1模型已经通过解决问题的技能引起了人们的关注。
DeepSeek模型的持续进一步开发表明动态路线图,这也可能包括DeepSeek生态系统中的多模式支持和其他面向未来的功能。
AI的民主化:DeepSeek-V3-0324如何设定新标准
DeepSeek-V3-0324代表了大型语音模型的开发中的重大进展。通过其创新的建筑,令人印象深刻的绩效和开放许可,它挑战了建立的专有模型,并可以推动AI技术的民主化。
技术创新,效率和可访问性的结合使DeepSeek-V3-0324成为AI景观中重要的里程碑。凭借其在消费者硬件上运行的能力,以及在推理,编程和前端开发等领域的提高技能,DeepSeek将自己定位为领先的AI公司,例如Openaai,Google和Anthropic的认真竞争者。
适合:
您的全球营销和业务发展合作伙伴
☑️我们的业务语言是英语或德语
☑️ 新:用您的国家语言进行通信!
我很乐意作为个人顾问为您和我的团队提供服务。
您可以通过填写此处的联系表,或者直接致电+49 89 89 674 804 (慕尼黑)。我的电子邮件地址是: wolfenstein ∂ xpert.digital
我很期待我们的联合项目。