网宿科技陈云辉：一站式边缘智能解决方案助力AIGC应用门槛大降

2024-06-28 13:05:36 - 环球网

来源：环球网

【环球网科技综合报道】6月28日消息，近日，在全球边缘计算大会上，网宿科技边缘智能平台资深架构师陈云辉宣布了一项重要进展——公司正式推出面向AIGC（生成式人工智能）的一站式边缘智能解决方案。该方案通过ServerlessGPU、AI网关、模型微调与推理服务三大层面，旨在大幅降低AIGC应用的落地门槛，助力用户以低成本、高效率的方式实现AI应用创新。

网宿科技边缘智能平台资深架构师陈云辉

随着AIGC和大模型技术的快速发展，全球范围内掀起了一股创新热潮。然而，企业在实际部署这些先进技术时，往往面临高门槛、长周期和高成本的挑战。陈云辉指出，尽管国内基础大模型种类繁多，但用户在选择、部署及与现有业务整合过程中，仍需综合考虑推理成本、性能评估、系统安全性、数据隐私保护等多个因素，这大大增加了实施难度。

在此背景下，网宿科技凭借其在边缘计算领域的深厚积累，推出了这一创新解决方案。据陈云辉介绍，网宿ServerlessGPU服务为用户提供了高度可扩展、按需使用的GPU算力资源，适用于AI模型推理、音视频加速生产等多种计算密集型任务。该服务不仅免去了用户管理GPU服务器和K8S的繁琐，还通过边缘侧部署和GPU虚拟化技术，实现了低时延和高资源利用率，有效降低了用户成本。

此外，网宿AI网关作为大语言模型的统一API接口，帮助用户管理和整合多个后端大模型接口，提高了AI应用的稳定性和可靠性，并降低了调用成本。对于需要强数据隐私保护和模型可控性的企业，网宿边缘模型训练推理平台则提供了全球性的边缘推理运行环境和模型微调服务，支持用户高效训练、推理和使用大模型。

陈云辉进一步展望了AIGC的发展前景，他认为大模型未来将逐渐演变为基础设施，为各种应用提供基础性和通用性的支持，同时开源能力也将不断增强。网宿科技正是基于这一趋势，不断探索和完善其边缘智能解决方案，以满足市场的多样化需求。

除了现有产品外，网宿科技还在积极探索AIGC工作流引擎和AI营销创意平台两个新方向。其中，AIGC工作流引擎旨在简化AI应用的工作流程，提升处理复杂任务的性能和容错能力；而AI营销创意平台则面向最终用户提供开箱即用的AI产品，赋能营销工作。