中兴通讯陈新宇:大模型革新通信行业,中兴通讯携AI服务器入局 原创

PT展期间,我们采访了中兴通讯副总裁陈新宇先生,就大模型对通信行业带来的变革进行了深入交流。

近期人们谈论最多的莫过于ChatGPT。作为当下最先进的生成式AI技术,ChatGPT的出现革新了人们对于AI的认知。一时间,各个行业都在尝试应用它来提高效率和创造价值。通信行业作为算力基础设施建设的的重要构成部分,在数据中心、云计算平台等领域已经早有布局,此次切入生成式AI赛道更显得顺理成章。

中兴通讯作为中国最大的上市通信设备商,自1985年成立以来,深耕ICT领域38年,产品覆盖运营商网络、政企设备、消费者终端等众多信息通信网络环节。面对新一代AI技术掀起的颠覆性变革,中兴通讯选择创新突破,主动投身AI浪潮。

中兴通讯陈新宇:大模型革新通信行业,中兴通讯携AI服务器入局

今日,中兴通讯携一众创新ICT产品和解决方案亮相第31届中国国际信息通信展览会(PT展),带来了全球首款AI裸眼3D平板电脑nubia Pad 3D,以及利用生成式AI技术,在数据处理、AI训练、AI推理部署三大环节全面提升企业效率的数字星云2.0等产品。

在展会期间,我们采访了中兴通讯副总裁陈新宇先生,就大模型对通信行业带来的变革进行了深入交流。

大模型给运营商带来的AI新机遇

在以往,AI的角色大多是辅助人们进行分析、判断和决策,而如今生成式AI在此之上,还能承担更多创造性的工作,比如写作、写代码和设计。

Gartner研究院将生成式AI列为最有商业前景的人工智能技术。根据Gartner发布的2022年人工智能技术成熟度曲线,生成式AI将在2-5年内进入生产成熟期,到2025年,由生成式AI产生的数据将占到全部数据的10%,30%的大型组织出站消息、50%的药物发现与研发将使用生成式AI。到2027年,30%的制造商将使用生成式AI提高产品研发效率。

目前,生成式AI已经在营销、设计、建筑和内容等领域催生了许多创新应用,同时在生命科学、医疗、制造、材料科学、媒体、娱乐、汽车、航空航天等领域也展现出了巨大的潜力。

各个行业纷纷结合自身领域,切入这一赛道。众多的入局者中,通信运营商具有天然的优势。

其实不难理解,生成式AI依赖于大模型的训练和运行,而这需要算力和网络支撑。通信运营商作为新型云、网、算力等信息基础设施服务的运营者,自身拥有优质网络、算力和云服务能力,同时具备产业链优势。对于运营商来说,既可以自身应用大模型,提升服务能力与产业效率,也可以为企业训练大模型提供算力支持。中兴通讯副总裁陈新宇认为,大模型给运营商带来的机遇,主要有三方面:

第一,提升自身服务水平。运营商可以利用大模型改进信息通信服务能力,例如其在自然语言上的能力可用于提升智能客服等运营服务功能。将大模型和云网运营深度结合,用于网络故障处理、工单识别流转、人员降本增效等场景。

第二,网络优化。运营商可以利用通信网络的巨量数据量来训练通信网络大模型,实现网络的智能分析、实时预测和自动化运维。基于生成式大模型自动生成代码和漏洞扫描,提升网络安全水平。

第三,面向政企客户提供AI即服务(AIaaS)和数据服务。运营商可以利用其新型信息基础设施来承载ChatGPT等大模型训练和推理服务,帮助大模型进行跨地域训练,完成算力资源适配等。此外,运营商数据优势明显,可以为模型训练提供数据服务,实现数据价值变现。

在此背景下,国内外的运营商们纷纷加速对生成式AI的布局。此前,中国电信、中国移动、中国联通分别对相关业务做了官宣。韩国最大运营商之一SKT也在财报电话会上公布了公司的AIGC版图。

大模型拉动AI服务器市场高速增长

过去几年,大模型的参数量不断攀升,从2018年Bert的3亿,到2019年GPT2的15亿,再到2021年GPT-3的1750亿,和2022年Switch Transformer的1.6万亿,大模型规模的飞速增长,给模型训练带来了很大挑战。

以GPT-3为例,GPT-3需要1024块A100 GPU计算40天左右才能完成训练。传统的芯片和服务器难以满足大模型对算力和网络的需求,这拉动了面向人工智能场景的AI服务器市场快速增长。根据市场研究机构TrendForce公布的最新报告,预计2023年全球AI服务器(含搭载GPU、FPGA、ASIC等)出货量近120万台,同比增长38.4%,占整体服务器出货量近9%。

陈新宇指出,ChatGPT训练要使用上万个GPU的计算集群,而集群节点的计算性能受限于网络带宽,制约了集群节点计算性能的发挥。对于AI训练服务器而言,不仅需要具备大算力,还需要具备很高的互联带宽。

对此,中兴通讯以DPU(Data Process Unit,专用数据处理器)为中心,构建了软硬协同新型算网基础设施。其DPU智能云卡将网络时延从数十微秒降低到微秒级,具备200Gbps以上的数据收发能力,从而实现了GPU算力的聚合,最大程度地提升了GPU集群的算力。

新型算网基础设施在网络加速、存储加速、算力卸载、管理卸载和安全加固等关键能力方面进行了全面增强。该方案不仅提高了云网基础设施的效率,还能节省服务器资源,为客户降低Capex和Opex的投入。此外,基于裸金属和虚拟化节点的灵活互转,可以有效应对业务的不确定性需求,避免了投资浪费。

“面对ChatGPT这样的重大技术突破,中兴通讯结合自身优势重点投入,并计划今年底推出支持超高带宽互联GPU服务器,满足ChatGPT等大模型AI训练应用场景。”陈新宇说。

在算力基础设施领域,中兴通讯已拥有全系列服务器及存储产品,包括通用服务器、GPU服务器、液冷服务器以及全闪存储产品、混闪存储产品等。尤其服务器市场在过去几年迅速增长,收入从20亿增长到百亿规模。

作为数字经济时代“筑路者”,中兴通讯将持续加强在AI领域的投入和创新,在AI领域之外,中兴通讯也会继续稳固主营业务,固本拓新,做有质量的增长。

来源:至顶网软件与服务频道

0赞

好文章,需要你的鼓励

2023

06/05

16:47

分享

点赞

邮件订阅