端侧AI，为什么这么火？

溯溪而上

小枣君 鲜枣课堂

2024年悄然过半，越来越多的企业，开始思考AI的落地场景，探索AI如何才能真正赋能用户。

想要赋能用户，当然就离不开终端抓手。大家明显可以看到，端侧AI的发展正在成为市场关注的焦点。除了集成本地大模型的AI手机大量出现之外，AI PC的概念也不断走红。

那么，应用场景更多、用户规模更大的物联网市场，是否也可以进行AI落地呢？现在越来越火的智能模组、AI模组，有什么特别之处？

就在今天刚刚开幕的MWC世界移动大会（上海站）上，国内模组一线厂商广和通展示了他们的多款智能模组产品及解决方案，让大家对端侧AI落地有了更全面、更深入的了解。

MWC广和通展台

接下来，小枣君就给大家做一个详细解读。

█ 智能模组的诞生背景

智能模组在传统模组的基础上，通过集成NPU（神经网络处理单元）等计算单元的方式，获得了更强大的异构算力，能够实行机器学习等AI算法，从而实现传统物联网场景的智能化变革。

从本质上来看，智能模组是一种AI算力的下沉。

完全基于云端AI的方式，终端的数据需要通过网络上传云端，云端经过计算后，再下发给终端，会产生更大的时延。如果网络不稳定，也会更加影响用户体验。

云端AI，也不满足部分用户对信息安全和物理隔离的需求。

云侧AI+端侧AI

采用端侧AI，数据的处理在本地完成，时延更短，且不容易受到网络质量的影响。在数据隐私保护上，端侧AI也有先天优势。

在成本方面，端侧AI减轻了云端的计算负荷，可以节约云基础设施方面的投资。

云侧AI，适合处理对资源消耗较大的训练任务，以及部分推理任务。而端侧AI，适合处理即时性要求高、交互频繁的推理任务。

“云+端”的混合AI，已经成为当前AI应用落地的主流趋势。

█ 智能模组，有哪些应用场景？

智能模组作为端侧AI的重要算力载体，是目前行业关注的热点。

在广和通的展台，大家看到了他们此前发布的SC126、SC138、SC171L、SC171等多款智能模组产品，分别采用了高通QCM2290、高通QCM6125、高通QCM5430/QCS5430、高通QCM6490/QCS6490平台。

这些智能模组面向入门级、中端、高端，可以满足客户对不同平台、性能、算力、成本的差异化需求。基于这些模组的边缘AI解决方案，已经在机器人、工控机、智慧零售、工业手持、无人驾驶等领域广泛应用，拥有大量的成功商用案例。

● 割草机

广和通不久前发布的免埋线式割草机行业解决方案，就是一个典型案例。

根据广和通MC产品管理部副总裁赵轶的先容，整个方案是广和通基于低速无人自动驾驶平台打造的。

该方案以广和通智能模组（SC171）作为主控，基于Linux边缘AI解决方案，具备AI边界识别及控制能力，可提供基于RTK+VIO融合定位、规控和感知算法。方案还可以搭载各类传感器，赋能机器人的室内外精准定位和规控能力。

广和通定制了包括双目摄像头、RTK定位天线、设备整板等全套硬件，以包括模组、PCBA、整机等多种灵活的商务模式提供给客户。App部分，也全部采用的是广和通自主研发的算法（包括定位、行程规划等）。

AI训练方面的工作，也是广和通完成的。他们使用了近百万张草地的图片、视频去训练模型，还根据当地的场景数据进行收集，对算法模型进行更新，训练出最符合客户实地应用的模型，最终交付给客户。

端侧AI的商业落地和传统模式有很大区别。

对大部分用户来说，AI是新生事物。很多用户并不知道AI到底能为自己做什么，也没有明确的应用场景，甚至连需求都是模糊的。而且，部署AI有一定的技术门槛。包括AI算法的研发、AI模型的训练、数据的收集和处理，都需要具备相应的研发力量和资源。

为了更好地服务客户，广和通采取的做法，是进一步延伸服务范围，为用户提供包括App、硬件、算法以及模型训练等全方位打包服务。

广和通的免埋线式割草机行业解决方案，目前正与国内外主流厂商合作，展示了其技术、数据、方案的领先能力，相信很快就能出现在公众视野。

除了割草机器人之外，广和通的方案还覆盖了服务机器人、清洁机器人、运输机器人、巡检机器人等多个垂直领域。

● 具身智能

众所周知，具身智能（Embodied Intelligence，有物理身体并支撑物理交互的智能体）是目前人工智能领域的一个热门研究方向。

今年1月，斯坦福大学、伯克利大学和GOOGLEDeepMind团队合作推出一款名为“Mobile ALOHA”的家用具身机器人，可以炒菜、煮咖啡甚至逗猫，刷屏全网，也吸引了更多企业投身这一领域。

为了帮助众多机器人厂商客户快速复现及验证Mobile ALOHA的相关算法，更快更好地研发具身机器人产品，广和通推出了具身
智能机器人开发平台——Fibot。

Fibot采用全向轮底盘设计、可拆卸式训练臂结构，机械臂拥有更多的自由度及臂展范围。它满足客户验证Mobile ALOHA协同学习与简单的示教操作数据需求，从而习得机械臂的高级移动操作功能算法。

Fibot还能通过底盘选配的激光雷达或双目模组，实现室内外的空间感知及建图、路径规划和动态避障等算法的二次开发。它还集成了多种深度学习和强化学习AI算法，结合高效的感知系统与智能决策框架，极大提升了客户进行二次开发的效率。

平台方面，Fibot以广和通高算力智能模组SC171作为主控，基于高通®QCM6490物联网解决方案设计，采用8核高性能处理器，可对数据进行高效计算与处理，助力终端实现边缘计算和AI特性。

广和通AIC产品管理部总经理张泫舜表示：“广和通具身智能机器人开发平台Fibot具备感知、视觉、定位及导航、动作控制等底层能力，能更好地赋能客户实现AI与机器人相结合。随着AI技术的突破性进展，具身智能的演进将成为科技变革的新高地与经济发展的加速器。”

● 其它应用领域

除了机器人之外，大家再看看机器视觉、智慧零售和智能家居。
基于AI算法所带来的物体检测、跟踪、识别能力，使得智能模组解决方案可以更好地落地机器视觉场景。例如面向工业领域的产品分拣、面向消费领域的车载相机，以及面向交通领域的车流监测等。

智慧零售方面，基于智能模组的端侧AI方面可以应用于智能售货机以及ECR等收银终端。

智能售货机可以与用户进行对话互动，灵活适配多种语言甚至方言，自动处理订单。不仅节约了人力成本，也提升了用户购物体验。零售商也可以通过智能模组获得关键的消费者数据洞察，制定对应的市场战略。
端侧AI在智能家居领域也有很大的市场。

将FWA（固定无线接入）与AI进行融合，可以实现网络精准预测和智能选网策略，重塑网络体验与优化天线性能。在用户端，5G FWA融合AI、Matter技术，可以使家居设备实现高效互联互通。FWA将成为智慧家庭中心管家。

█ 端侧AI的机遇和挑战

AI落地具有很大的想象空间，以上解决方案只是广和通众多应用案例的一小部分。

从整个行业的发展来看，端侧AI融合通信是必然趋势。将AI能力与IoT场景深度融合，将会为用户带来巨大的商业价值，也拥有广阔的市场前景。

然后，推动端侧AI的落地，并不是一件容易的事情。它也面临很多挑战，例如：行业场景和需求碎片化、标准规范缺失、技术门槛高、成本和功耗敏感等。

广和通之所以能够为用户提供完善的端侧AI解决方案，和他们多年的通信行业沉淀以及在AI领域的持续投入密不可分。
首先，作为模组厂商，广和通在通信专业领域拥有雄厚实力，对各项通信技术标准研究透彻，也能够提供全球范围内的运营商认证。

其次，广和通在各个垂直行业有丰富的客户服务经验，对市场和行业研究透彻，充分了解用户的需求。他们能够针对不同行业提供定制化的解决方案，符合行业标准且具备互操作性。

第三，广和通在AI领域有长远布局。他们在AI算法等领域投入了大量的研发资源，进行相关技术储备。当大模型浪潮到来后，他们在第一时间就推出自己的行业模型应用，以及智能模组产品。

基于以上几点，广和通已经在AIoT赛道上抢得先机，并且获得了市场和用户的认可。

█ 最后的话

“提速互联，智向未来”，是本次广和通参加MWC展的主题。

基于强大的通信连接能力，深入融合AI人工智能，是整个物联网行业今后的发展方向。在技术创新的引领下，越来越多的AIoT场景讲出现在大家身边，推动整个社会走向真正的“数智时代”。