首页|必读|视频|专访|运营|制造|监管|大数据|物联网|量子|低空经济|智能汽车|特约记者
手机|互联网|IT|5G|光通信|人工智能|云计算|芯片|报告|智慧城市|移动互联网|会展
首页 >> 移动互联网 >> 正文

北京大学鲲鹏昇腾科教创新卓越中心特训营圆满举办

2025年4月1日 10:23  CCTIME飞象网  

3月28日,北京大学鲲鹏昇腾科教创新卓越中心特训营在北京大学新燕园校区计算机大楼成功举办,本次特训营旨在深入探讨昇腾技术栈在大模型应用中的前沿技术,特别是基于北京大学自研SCOW平台和华为昇腾的DeepSeek本地化部署与推理优化,并通过实践操作和技术专家面对面交流,进一步激发学生们的创新思维与学术视野。

深入解析:DeepSeek推理技术与昇腾平台的融合

活动伊始,昇腾生态技术专家许涛就“DeepSeek-MoE模型技术演变分析”,深入解读了DeepSeek系列模型技术演变。DeepSeek-MoE模型自推出以来不断优化,通过增加模型大小和专家数量,降低专家激活比,来提升性能,在架构和训练策略上持续创新。在技术实现方面,模型采用了多种优化方法,如在训练过程中,利用DualPipe双向流水线方法减少通信开销,根据不同的算子需求选择合适精度计算,引入MTP方法,以多个Token作为监督优化模型。同时,昇腾已经完成对Deepseek的适配,可以高效利用超节点内的高速通信带宽,有望在DeepSeek时代取得更好的发展。

(昇腾生态技术专家 许涛)

实践分享:基于昇腾的DeepSeek开源推理方案

北京大学联合华为发布的DeepSeek全栈开源推理方案依托全栈开源组件构建,基于北京大学自主研发的SCOW算力平台系统,整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件,通过开放协作打破技术壁垒,持续推动技术创新。北京大学计算中心工程师龙汀汀在特训营中详细介绍了该方案,现场演示了系统如何快速适应不同的AI框架,并展示其在多种应用场景下的高效性能。

(北京大学计算中心工程师 龙汀汀)

上手实操:边缘设备上的昇腾技术实践

在本次特训营的开发实战环节,学生们基于昇思MindSpore框架,在香橙派AI Pro开发板(20TOPS)上进行模型部署。值得一提的是,目前香橙派昇腾系列产品已经率先完成了与 DeepSeek 模型的深度适配,利用开箱即用模型,让边缘离线部署变得轻松高效。通过实操,学生们亲身感受到了昇腾无需依赖云端的强大算力,直接在边缘设备上实现高性能计算及积木式开发,既保障了数据处理的隐私安全,又大幅提升了响应效率。这种“端侧智能”的实战体验,不仅让学习更直观,更让大家领略到AI落地应用的无限可能。

(北京大学学生现场实操香橙派AI Pro开发板)

开放讨论:技术专家与学者面对面答疑

在活动的最后,学生们与华为计算战略规划专家、北京大学计算中心工程师、AI安全解决方案专家、昇腾生态技术专家们一起进行了面对面的互动,从鲲鹏昇腾设备使用到技术难题再到未来发展趋势,涵盖诸多领域。在算子开发与适配方面,学生们提出的问题得到了专家们细致且富有前瞻性的解答。关于自定义算子绑定复杂、编译耗时的问题,专家们表示除了相关QA文档资源会随商业版本尽快发布外,也可直接咨询华为研发专家加速问题解决。同时欢迎高校师生将自身解决问题的过程发布为案例教程,这些无疑为学生们后续的开发工作提供了有力支持。对于开源编译器支持的疑问,专家们详细介绍了相关接口的开源情况以及正在推进的研发工作,让学生们了解到未来算子开发将更加简化,这极大地激发了学生们探索新技术的热情。

硬件性能与生态建设也是互动的焦点。学生们关心的端侧异构模型部署问题,专家深入浅出地讲解了华为在这方面的布局和技术优势。他们提到,华为在端侧NPU和GPU的协同工作上有着长远的规划,并且在泛边缘或泛端场景下,软件体系的通用性为开发者提供了更为广阔的发展空间,这让学生们认识到华为计算生态的潜力,也为他们未来的研究方向提供了新的思路。

(开放交流环节 专家学者与学生们互动)

本次特训营的圆满举办是北京大学鲲鹏昇腾科教创新卓越中心在AI技术创新和人才培养方面的一次成功实践。北京大学鲲鹏昇腾科教创新卓越中心自成立以来,致力于构建基于鲲鹏昇腾技术路线的校级生态合作平台,围绕大学计算产业前沿课题研究、课程体系建设、研究人才培养等方面展开合作,为产业输出高质量鲲鹏昇腾创新人才,孵化和培育根植中国的世界级科研创新成果。未来,鲲鹏昇腾科教创新卓越中心将继续开展一系列针对高校师生的培训活动,帮助他们在科研创新与技术应用中取得更好的成果,推动人工智能技术的进步与产业的发展。

编 辑:T01
飞象网版权及免责声明:
1.本网刊载内容,凡注明来源为“飞象网”和“飞象原创”皆属飞象网版权所有,未经允许禁止转载、摘编及镜像,违者必究。对于经过授权可以转载,请必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和飞象网来源。
2.凡注明“来源:XXXX”的作品,均转载自其它媒体,在于传播更多行业信息,并不代表本网赞同其观点和对其真实性负责。
3.如因作品内容、版权和其它问题,请在相关作品刊发之日起30日内与本网联系,我们将第一时间予以处理。
本站联系电话为86-010-87765777,邮件后缀为cctime.com,冒充本站员工以任何其他联系方式,进行的“内容核实”、“商务联系”等行为,均不能代表本站。本站拥有对此声明的最终解释权。
相关新闻              
 
人物
中兴通讯董事长李自学:算力筑基、 AI 启智,共迎数智化新纪元
精彩专题
3·15权益日 | 共筑满意消费 守护信息通信安全防线
聚焦2025全国两会
2025年世界移动通信大会
低空经济2025:助力中国经济腾飞,成就高质量发展
CCTIME推荐
关于我们 | 广告报价 | 联系我们 | 隐私声明 | 本站地图
CCTIME飞象网 CopyRight © 2007-2024 By CCTIME.COM
京ICP备08004280号-1  电信与信息服务业务经营许可证080234号 京公网安备110105000771号
公司名称: 北京飞象互动文化传媒有限公司
未经书面许可,禁止转载、摘编、复制、镜像