移远通信大模型解决方案加速落地

2025年03月04日

移远通信作为物联网整体解决方案供应商,在推动大模型技术的应用方面不断开拓,其端侧大模型解决方案融合前沿的LLM(大语言模型)、RAG(检索增强生成)与Agent(智能体)等业界主流技术,可助力实现 “情景理解、知识融合、智能交互、自主决策、任务执行”等多种功能,目前已在服务机器人等领域加速落地。

该方案基于移远边缘计算智能模组SG885G-WF,搭载高通QCS8550平台,具备高达48 TOPS的综合算力,可为方案功能的实现提供充足的算力支持。在移远大模型解决方案的助力下,服务机器人可实现1s以内的意图识别,解码速率超过15 tokens/s,为用户带来更自然的语音交互以及更加个性化的服务体验。

移远大模型解决方案可实现AI模型的端侧部署,不仅提升了响应的实时性,还确保了隐私安全,并能在无网环境下正常工作,大大降低了推理成本。凭借卓越的性能以及高灵活性、高安全性、高性价比等优势,该方案在服务机器人的多种形态中展现出了强大的应用价值,可赋能多个实际场景的智能升级,例如:医疗康养、智能客服、接待导览、零售导购等,值得一提的是,移远通信大模型解决方案还具备全方位的工程化服务,能够从感知、规划、决策、执行等阶段,全面解决客户项目中的各种工程化问题,如针对应用场景对模型进行微调、多个模型的合理调度等,使得大模型方案以更快速度、更低成本、更完善的服务体验应用实践。

当前,大模型技术日新月异,移远大模型解决方案紧跟技术演进以及模型迭代,成功集成了通义千问、DeepSeek等业界主流大模型,为服务机器人等产业的智能化发展注入了强劲动力。展望未来,移远将继续携手广大合作伙伴,共同推动端侧AI规模商用,为千行百业的智能化进程贡献更多价值。


中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:cdoffice@chinadaily.com.cn
中文 | English