摩尔线程与滴普科技携手，实现国产大模型训练重要突破
2024-05-29 11:36:57 - 环球网
来源：环球网
【环球网科技综合报道】近日，国内知名的GPU企业摩尔线程与领先的数据智能服务商滴普科技联合宣布，摩尔线程的夸娥（KUAE）千卡智算集群已成功与滴普科技的企业大模型Deepexi完成训练及推理适配。
据悉，基于摩尔线程的夸娥千卡智算集群，滴普科技顺利完成了700亿参数的LLaMA2大语言模型的预训练测试。整个训练过程耗时77小时，全程无故障连续运行，集群训练的稳定性高达100%，训练效率和兼容性也均达到了预期目标。
滴普科技，作为一家以数据智能技术为核心的服务商，致力于为客户提供先进的数据智能基础设施、企业大模型产品以及创新的数据智能服务。其构建的Deepexi企业大模型在语义、视觉、语音、跨模态等方面均展现出卓越的性能。通过运用模型工具链，Deepexi能够为企业提供全方位的数据准备、模型训练、调优、部署及推理服务，助力企业快速构建各领域的模型和智能体应用，推动企业从数据驱动向智能驱动的转型升级。
摩尔线程与滴普科技的此次合作，得益于夸娥千卡智算集群的八大核心能力，包括模型覆盖、推理加速、CUDA兼容、断点续训、分布式训练以及集群可靠性等。这一全栈解决方案以全功能GPU为底座，提供软硬一体化的服务，为构建国产化数智赋能底座奠定了坚实基础。值得一提的是，夸娥千卡智算集群是业内首个成功跑通并完整运行国产大模型的千卡集群。