火山引擎全面拥抱DeepSeek模型,全尺寸支持助力企业智能化升级

近日,鞭牛士从火山引擎官方获悉,火山引擎将新增对V3/R1等不同规格DeepSeek开源模型的支持,为企业用户提供更多样化的AI解决方案。

据悉,企业用户可以通过两大途径来运用这些模型。首先,他们可以选择在火山引擎的机器学习平台veMLP上部署DeepSeek模型。值得注意的是,veMLP已经能够支持全系列的DeepSeek模型,并且针对SGLang和vLLM进行了细致的性能优化与效果评估。火山引擎自主研发的PD分离+EP并行推理引擎也即将面世,并将全面对外开放。这一方案尤其适合那些希望自主进行模型定制、部署及推理操作的企业。

另一种方式则是通过火山方舟平台直接调用DeepSeek模型。这对于希望通过API快速集成预训练模型以加速产品开发的企业而言,无疑是一个更为便捷的选择。目前,火山方舟已经支持四个版本的DeepSeek模型,并提供了业内最高的限流保障,确保模型调用的稳定性和高效性。

火山引擎的这一举措,无疑将进一步推动AI技术在各行业的应用与普及,为企业用户提供更加强大、灵活的AI解决方案。

文章版权声明:除非注明,否则均为 云福软件园 原创文章,转载或复制请以超链接形式并注明出处。

发表评论

快捷回复: 表情:
AddoilApplauseBadlaughBombCoffeeFabulousFacepalmFecesFrownHeyhaInsidiousKeepFightingNoProbPigHeadShockedSinistersmileSlapSocialSweatTolaughWatermelonWittyWowYeahYellowdog
评论列表 (暂无评论,8058人围观)

还没有评论,来说两句吧...

目录[+]