如何将机器学习引入边缘计算？

来源：腾讯科技作者：碧池

与云计算互补：AI 推动边缘计算应运而生

从云计算对传统 IT 架构的颠覆性变革，到 AI 构建模型与算法的智能世界，再到万物互联的 IoT 悄然崛起，云计算以排山倒海之势拉动着 IT 产业链的发展，而人工智能和物联网也一直都是社会普遍关注的焦点话题。

值得注意的是，近两年，与我们生活息息相关的智能服务随处可见，但其底层的 AI 技术或者说机器学习技术却已拥有着超过 50 年的悠久历史。要说“人工智能”为何在近几年才逐步走近人们的生活，这与云计算有着密切联系。2006 年云计算的诞生，预示着人工智能拐点的到来，数据量越来越大，计算能力越来越强，过去不实用的 AI 技术到了 2006 年也都逐步进入实用阶段，可以说，是云计算让 AI 技术更加接近企业与消费者，并不断利用 AI 技术驱动着产业变革。

技术发展总是相互贯通的，随着数十亿的智能设备在住房、工厂、医院、汽车等地普及开来，物联网技术的兴起必然是这个时代的又一场革命。随着物联网在各行各业的推广应用，我们急需一个解决方案来收集、处理、存储这些物联网设备所产生的庞杂数据，而云计算平台正是分析加工这些海量数据与连接的技术基石。同时，IoT 通常会在边缘端对设备进行管理和控制，很多的数据需在边缘进行实时决策，这就对边缘设备的智能化提出了更高的要求。

将机器学习智能引入边缘计算

边缘计算意味着把云计算的资源、计算、存储等能力带到更接近用户的本地边缘设备中，大量计算可以在本地直接处理，而无需把所有数据都发送到云端，实现本地事件的更快响应。

事实上，要想确保 IoT 应用程序能够快速响应本地事件，则必须以非常低的延迟获得推理结果，但这时如果把数据发送至云端，再等待云端的推理决策，这个过程就很难满足一些业务场景的需求。

例如，在很多智慧城市的智慧摄像头场景中，智能摄像头需要在边缘侧快速识别汽车牌照或者人脸等场景，如若把海量的视频数据实时上传到云端去做推理，这势必会带来大量不必要的带宽占用，并无法满足其对于实时决策的需求，这时就需要一个更加智能的解决方案来做推理。

但是，仅使用云计算来部署人工智能的方式，与将云计算与边缘计算有效结合起来应用人工智能的方式截然不同。数据科学家依靠云计算来摄取和存储大量数据集，并识别数据中的模式和关系，在建立模型的整个过程中，训练和优化机器学习模型需要大量计算资源，因此与云计算是天然良配。

而实际上，最终的、经过优化的机器学习模型在推理的过程中并不需要太多的资源。所以为了确保 IoT 应用程序以非常低的延迟获得推理结果，我们就可以把训练放在云端，推理放在边缘侧，以达到利用云端去训练机器学习模型，利用边缘设备实时进行推理，甚至在没有互联网的环境中产生数据时，也能实现高速响应业务变化并作出决策。

例如，在智慧农业的场景中，装在农田里的传感器会对收集的环境数据进行实时决策。但在这些场景中，设备通常无法保证连接到互联网，这时就更加需要边缘端实时作出决策，待设备具备互联网连接时，再同步数据到云端。

广阔的市场前景，潜在的应用范围，毋庸置疑，人工智能让边缘计算更有价值。据美国市场调研公司 CB Insights 估算，到 2023 年全球边缘计算行业，整体市场容量有望达到 340 亿美元。其中包括亚马逊、微软、谷歌在内的几大公有云巨头的争相布局也说明了边缘计算未来发展的无限潜力，尤其在智能家居领域，边缘计算如何发挥更大价值已成为行业的主要研究方向。