近来,具有强大学习、理解和多模态处理能力的大模型迅猛发展,正在给人类的生产、生活带来革命性的变化。在这一变革浪潮中,物联网成为了大模型技术发挥作用的重要阵地。
作为全球领先的物联网整体解决方案供应商的移远通信,于近日正式对外宣布将推出全新大模型解决方案。该方案将融合强大的算力平台、技术和服务,为众多垂直行业提供标准化、定制化及智能化的大模型服务,全面赋能产业升级。
技术融合量身定制
当下,大模型技术发展迅猛,但其背靠海量信息资讯,若无专业的方案设计会导致使用过程中面临信息检索精准性差、可控性低等风险。此次,移远通信推出的大模型解决方案则是基于高通QCS8550算力平台,融合最前沿的LLM(大语言模型)、RAG(检索增强生成)与Agent(智能体)等业界主流技术,对模型进行深度优化与增强,扬长避短,以实现能力的全面提升。
其中,RAG通过实时检索整合外部最新准确信息,显著提升信息处理准确性与时效性,广泛应用于问答、创作、客服、金融分析及医疗咨询等领域,提供高效精准服务。Agent技术则凭其自主学习、决策执行能力,在复杂环境中灵活应对任务,提升体验与效率,广泛应用于智能客服、个性化推荐、智能家居及自动驾驶辅助等,为用户打造更智能、个性化的生活与工作环境。
此外,大模型方案所依靠的核心技术仍离不开智能算力,此方案内置移远通信新一代旗舰级安卓智能模组SG885G-WF,其基于高通®QCS8550处理器开发而成,具有高达48 TOPS的综合算力。在此基础上,移远更巧妙融合NPU与CPU等多元算力优势,在经过精细设计与优化后,确保大模型方案能够跨越不同硬件界限,展现卓越性能,进而拓宽其应用边界。大模型应用的流畅运行还离不开高性能CPU和内存的支撑,SG885G-WF拥有最高主频3.2GHz的8核CPU,最大支持24GBLPDDR5X内存,保证了大模型各种应用场景下设备的流畅运行。同时,SG885G-WF支持Wi-Fi7、蓝牙5.3以及2×2Wi-FiMIMO技术,带来了更强的数据连接性能,为大模型应用提供更加稳定、畅快的网络能力。
全栈工程化能力助力行业升级
为进一步提高方案与客户行业的适配程度,在前沿技术赋能后的移远通信大模型解决方案将从感知、规划、决策、执行四大阶段提供全方位的工程化服务,助力大模型方案以更快速度、更低成本、更完善的服务体验应用实践。
在感知阶段,移远将深入不同行业的业务场景,精准把握客户需求,继而提供多样化、定制化的模型选择规划,如移远大模型方案可以提供文本、语音和视觉三种模态支持,并根据客户场景需求进行模型的选择与优化;而在规划、决策和执行阶段,移远将进行具体的方案设计,包含模型增强、Agent框架制定、工作流搭建、应用开发等工作,提升整体方案中模型与场景的适配性,最大程度提高模型的实用性。最后,在模型部署环节,移远大模型方案支持端侧/混合型等多种部署方式,并在其算力平台上提供模型压缩、算力优化等服务。值得一提的是,移远采用的端侧大模型方案更将从数据安全、实时响应、无网运行及成本等方面为客户提供更完善的体验。
目前,移远大模型方案将可为智慧医疗、智慧教育、娱乐、智慧家居、智能驾驶等行业,提供包含“情景理解、知识融合、智能交互、自主决策、任务执行”等在内的多种能力。后续,移远将持续探索与创新,与上下游通力合作,以更加全面、成熟的技术服务,推动算力与大模型产业蓬勃发展。
移远通信大模型方案Demo将于8月27日——【高通&移远通信边缘智能技术进化日】首次展出,欢迎莅临现场互动体验!