网宿科技:AI将引领边缘计算市场增长,智能硬件或成杀手级应用入口
【TechWeb】近日,全球领先的边缘计算服务商网宿科技发布了首份《边缘计算市场实践与洞察报告》,深入分析了边缘计算的落地现状以及未来趋势。
网宿科技边缘平台资深架构师陈云辉解读报告时指出,边缘计算已经成为数字化、智能化进程中的重要支撑技术。伴随IoT产业成熟、AI时代到来,边缘计算的需求将越发涌现,市场前景更为可观。
AI带来对边缘计算的算力和推理需求
《报告》基于网宿科技多年的市场实践与洞察,分析了当前边缘计算的落地现状。《报告》显示,从边缘计算的主要产品形态来看,边缘云方面,边缘计算已经在实时音视频交互、CDN、云游戏、AR/VR等方面成熟应用。边缘云安全方面,将边缘与安全结合成为产业共识,诸如SASE架构已被广泛部署。在物联网领域,边缘智能解决方案也在工业制造、交通运输、畜牧养殖、智慧城市等场景中实现了应用创新。
物联网是边缘计算需求最为旺盛的场景之一,随着IoT产业的成熟,市场会逐步形成垂直行业的边缘智能解决方案,届时技术门槛和成本降低,边缘计算的需求也将顺势增长。
根据MarketsandMarkets报告显示,全球边缘计算市场规模将从2023年的600亿美元增长至2029年的1106亿美元,CAGR达到13%。在国内,IDC报告显示,2023下半年,中国边缘云市场规模总计62.6亿元,同比增速36.1%,增速超出预期。
对于驱动市场增长的因素,《报告》指出主要有四个方面,一是IoT产业落地成熟引领边缘计算增长,二是云原生技术应用带来边缘云刚需,三是AI大模型为边缘计算开辟新的商业机遇,四是生成式AI威胁推动云边端一体化安全能力的建设。
陈云辉表示,现在AI发展有两大趋势,一是在中心部署的大模型,会往越来越智能、参数越来越大的方向发展,一个是在端侧部署小模型,比如手机厂商在做的端侧模型,参数要够小同时性能也要满足一定的程度。而我们认为,AI大模型不只是做端和中心,边缘也有机会。
其分析,比如GPT-4o的发布,多了一些多模态、人机自然交互的体验,核心特点除了模型能力本身的提升外,最重要的就是实时性,边缘计算的优势就在于低时延,可以在其中发挥作用。另外,手机设备GPU算力有限,对于部分场景,算力需要外溢,相较于外溢到中心,时延可能要1-2秒,而外溢到边缘侧,位置距离用户更近,时延可能在几百毫秒,才能满足用户对生成式AI实时性互动的需求,体验更自然。
“所以整体来看,AI对边缘计算有两块需求,一个是算力,另一个是推理。推理模型需要部署在边缘侧,未来推理与迭代将在云-边-端呈现梯次分布,所以云边端一体化架构也是AI大模型发展的一个趋势。”陈云辉表示。
智能硬件或成杀手级AI应用入口
此次《报告》发布会上,陈云辉与边缘计算社区创始人史皓天还就业界所关心的杀手级AI应用等话题进行了探讨。
在陈云辉看来,尽管AI在诸多方面的应用已经如火如荼,但真正意义上的杀手级AI应用尚未出现。
比如ToC层面,AI搜索、AI角色扮演、AI陪伴等,虽然流量大、用户多,但商业闭环尚未形成,用户留存率也有待提高。此外,AIPPT、AI电商生图等生产力工具,已经实现部分商业闭环,不过目前仍处在市场推广阶段。ToB层面,企业内部的AI知识库面临幻觉问题,以及数据隐私和私有化部署成本问题,性能和效果达不到AI数字员工的理想状态,杀手级应用也暂时还未出现。
对于杀手级AI应用何时涌现,陈云辉认为,智能穿戴和AI硬件领域将可能出现杀手级应用,并随之带来对边缘计算的大量需求。
“随着模型能力不断升级,达到比较好的性能和效果,同时推理成本下降,再叠加AI硬件的成熟,将给整个产业带来更大的想象空间。比如AR/VR眼镜、AI耳机要求实时交互,并且搭载语音、视频等丰富内容,对算力要求极高,端侧算力有限,边缘侧将是提供算力承载的理想位置。”陈云辉进一步指出。
据悉,目前网宿科技已经在边缘AI领域进行了深入布局,推出了包括ServerlessGPU、边缘AI网关、边缘模型微调与推理服务在内的边缘AI产品。
未来,网宿科技还将面向AI继续投入,一是持续加强建设算力网络和平台能力,降低AI技术的使用门槛,服务AI规模化普及;其次将关注智能硬件的发展,投入边缘计算资源建设以及云边端整体能力的建设,协同行业伙伴探索XR应用的落地。最后,面对AI加剧威胁形势,网宿科技还将以AI驱动安全,全方位提升边缘安全能力。