首页|必读|视频|专访|运营|制造|监管|大数据|物联网|量子|低空经济|智能汽车|特约记者
手机|互联网|IT|5G|光通信|人工智能|云计算|芯片|报告|智慧城市|移动互联网|会展
首页 >> 头条资讯 >> 正文

韦乐平:随着模型规模的日益扩大,跨域训练是必然趋势

2025年4月23日 12:34  CCTIME飞象网  

飞象网讯(易欢)4月23日消息,在今天举办的“2025云网智联大会”上,SNAI推委会荣誉主席、原中国电信科技委主任韦乐平分享了对智算拉远的思考。

谈及大模型训练智算拉远的市场需求,韦乐平坦言,可以以网补算,提升闲散智算中心算力资源利用率。“面对大批分散部署、利用率很低的小规模智算中心,若能通过网络互联形成一个大型的逻辑智算池来适应规模日益增长的大模型训练,有望大幅提升闲散智算资源的利用率。”

与此同时,他指出,迈向未来,跨域训练是必然趋势。按照统计,大模型参数每1-2年增长10倍,而对应的GPU芯片的算力仅增长2-4倍,远低于模型规模的增速。随着模型规模的日益扩大,单体的算力、电力、空间资源终将受限,可能需要在园区甚至更大范围内由多个智算中心互联形成一个超级逻辑智算资源池,进行联合训练才有可能支撑超大模型的训练。

韦乐平强调:“至于推理与具体业务场景和访问量相关,更需要跨域实施。”

针对大模型训练智算拉远的挑战,韦乐平认为复杂的商用场景,势必会面临大量不同功能、性能的异构GPU、规模不同的AIDC的互联、不同业务场景、不同设备和不同组网方式、不同模型和不同参数的协同挑战。

此外,还面临一些技术挑战。在韦乐平看来,一是带宽收敛问题。“无收敛带宽普适性和前瞻性好,部署快,但成本太高;收敛比4-8时,带宽成本可以降至10%之内,但是只适用特定业务场景下的特定模型拆分方式,缺乏普适性和前瞻性。”

二是功能和性能问题。拉远后必然面对丢包、抖动乃至中断故障等诸多挑战,对ROCE网络的功能和性能有不少严格的要求。

统一管理和运维也是挑战之一。韦乐平认为,现有固化的组织架构和生产流程不适合快速部署逻辑统一的异地智算中心,需要对现有管理运维体系、生产流程、监控管理平台改造升级。

编 辑:章芳
飞象网版权及免责声明:
1.本网刊载内容,凡注明来源为“飞象网”和“飞象原创”皆属飞象网版权所有,未经允许禁止转载、摘编及镜像,违者必究。对于经过授权可以转载,请必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和飞象网来源。
2.凡注明“来源:XXXX”的作品,均转载自其它媒体,在于传播更多行业信息,并不代表本网赞同其观点和对其真实性负责。
3.如因作品内容、版权和其它问题,请在相关作品刊发之日起30日内与本网联系,我们将第一时间予以处理。
本站联系电话为86-010-87765777,邮件后缀为cctime.com,冒充本站员工以任何其他联系方式,进行的“内容核实”、“商务联系”等行为,均不能代表本站。本站拥有对此声明的最终解释权。
推荐新闻              
 
人物
高通徐晧:利用6G和AI重塑移动连接的未来
精彩视频
飞象趣谈第二十四期!全球首款二维半导体芯片“无极”,像保鲜膜一样薄的未来科技!
专家谈|中国信通院果敢:生成式AI发展为人工智能终端注入创新动力
全球6G大会|高通展示三大6G原型系统 更好服务智能时代
6G技术新突破!6G全息超表面宽带移动通信系统样机发布
精彩专题
通信产业2024年业绩盘点
3·15权益日 | 共筑满意消费 守护信息通信安全防线
聚焦2025全国两会
2025年世界移动通信大会
关于我们 | 广告报价 | 联系我们 | 隐私声明 | 本站地图
CCTIME飞象网 CopyRight © 2007-2024 By CCTIME.COM
京ICP备08004280号-1  电信与信息服务业务经营许可证080234号 京公网安备110105000771号
公司名称: 北京飞象互动文化传媒有限公司
未经书面许可,禁止转载、摘编、复制、镜像