上接01版
“我们接触过很多算力服务商,但能够提供一站式服务的供应商非常少,上海电信在这方面有整体优势。”张家庆告诉记者,2023年9月,开放传神入驻上海市徐汇区重点打造的全国首个大模型专业孵化和加速载体“模速空间”,并陆续将服务从国外云商迁移至上海电信的AIDC,“在不改变原先计算负载的情况下,整体成本降低了60%”。
弹性算网百公里“一跳入算”
除了充沛的算力和公共服务平台,要想算力“无所不在”,成为像水、电一样的普惠大众、随取随用的公共基础资源和服务,还必须要有“无所不达”的算网,满足不同对象对算力的多元化需求,比如在精度、时延、带宽方面存在的差异性。
尤其随着大模型参数的指数级上升,人工智能企业对于网络的要求越来越高,“超大规模、超高带宽、超强可靠、超低时延和丢包率,”一位大模型专家告诉记者,大模型时代,电信运营商面临更为严苛的网络要求,但出于成本考量,企业又不可能为此承担过高的网络带宽成本,因此对弹性算网的需求便显得尤为迫切。
开放传神便曾遇到过这样的窘境,作为一家大模型创业公司,它有时候会集中上传一批模型和数据,并为客户提供模型托管服务,但由于数据量巨大,这个过程往往需要数天时间。
“最近,我们正在和上海电信测试一跳入算,预计未来传输时间从以天为单位可缩短为以小时为单位,”张家庆所言的“一跳入算”,和上海电信此次重点发布的“弹性算力网络”,不仅大幅提高了大模型训练效率,而且可以让大模型企业根据业务实际需求,自由伸缩算力带宽,降低带宽成本。
平日里,弹性算网可为企业提供基础速率,一旦出现突发性任务、周期性作业急需大带宽传输,当天即可发起动态提速。例如,在100Mbps带宽下,10TB数据需10天才能完成传输,通过“弹性算力网络”升速后,仅需2小时便可完成传输,且企业只需支付2小时费用,极大降低了算网使用成本。
“这张弹性算网已覆盖全国31个省市自治区,连接六大云商,计费最小颗粒度低至1小时,平均可以为用户降低50%的运营成本。”张慷介绍道。
此外,上海电信基于在全球率先建设的50G-PON全光万兆城市数字底座,正在逐步打造普惠易用、绿色安全的综合算力基础设施体系,并在今年初率先实现了百公里1ms时延的“一跳入算”,也就是说,从上海徐汇区的“模速空间”到临港中国电信智算中心,入驻企业可在一毫秒内连接到达。
而根据不久前由国家发改委、国家数据局等五部门联合印发的《关于深入实施“东数西算”工程加快构建全国一体化算力网的实施意见》的要求,1ms时延城市算力网、5ms时延区域算力网、20ms时延跨国家枢纽节点算力网在示范区域内初步实现的时间节点是2025年底,上海再次跑在了全国规划的前面。