摘要：因为这些设备直接连接传感器数据摄像头麦克风陀螺仪等，所以在终端设备上部署机器学习具有极大的吸引力。论文地址摘要我们提出了在分布式计算层级上的分布式深度神经网络，包含云边缘设备以及终端设备。垂直线表示通道，连接水平线神经网络层。
近年来，深度神经网络在多种应用上取得了极大的成功，网络架构也变得越来越深。以卷积神经网络为例，从 1998 年 LeNet 的 5 层，发展到 2015 年产生了 152 层的 ResNet。
在网络架构变化的同时，包括物联网在内的终端设备数量也越来越多，有着急剧的增长。因为这些设备直接连接传感器数据（摄像头、麦克风、陀螺仪等），所以在终端设备上部署机器学习具有极大的吸引力。
但现在看来，较高级的机器学习系统还无法满足终端设备的现状：1. 要么把传感器数据输入到云端的大型神经网络模型；2. 要么直接在终端设备上使用简单的机器学习模型（如线性支持向量机）。前者有通信成本、延迟的问题，后者会降低系统的准确率。
为了克服这些问题，自然而然地就想到了分布式计算方法。层级分布式计算架构包括云、边缘与终端设备，这种架构有固有的优势，例如支持中心调节与局部决策，具有系统可扩展性，特别是对基于位置分布的 IoT 设备上的大规模智能任务。
虽然业内也有一些分布式方法，但依然面临多种挑战，例如终端设备存储与能源有限、通信成本等。那有没有一种系统能够训练一个端到端模型，把模型在云与终端设备之间划分开？
为了这个目标，作者们提出了在云、边缘以及终端设备这样的分布式计算层级上的分布式深度神经网络（DDNN）。论文内容摘要如下，具体细节请查看论文原文。
论文：Distributed Deep Neural Networks over the Cloud, the Edge and End Devices
地址：https://arxiv.org/abs/1709.01921
摘要：我们提出了在分布式计算层级上的分布式深度神经网络（DDNNs)，包含云、边缘设备以及终端设备。在能够适应云上的神经网络推理的同时，DDNN 也允许在边缘、终端设备上使用神经网络的浅层部分进行更快、本地化的推理。在可延展的分布式计算层级支持下，DDNN 能按比例扩大网络大小，且在区域跨度上进行扩展。由于其分布式特性，DDNN 增强了传感器融合、系统故障容错、数据隐私。在 DDNN 的实现上，我们绘制了 DNN 在不同分布式计算层级上的部分。通过联合训练这些部位，我们最小化了设备上的通信和资源使用，较大化了在云中使用的提取特征的有效性。最终的系统内建了对自动传感器融合、故障容错的支持。作为此概念的证实，我们演示了一个 DDNN 能够利用传感器的多元性改进目标识别的准确率、减少通信成本。在我们的实验中，对比传统的在云中卸载原始传感器数据的方法，DDNN 能够在终端设备本地处理大部分传感器数据，同时取得高准确率，通信成本能够降低 20 倍。
图 2：DDNN 架构的概览。垂直线表示 DNN 通道，连接水平线（神经网络层）。（a) 是标准的深度神经网络（完全在云端处理）；（b）是引入了终端设备和本地出口点（exit point)，可能分类云之前的样本；（c）是（b）的扩展，增加了多个终端设备，聚合在一起进行分类；（d) 和（e）是（b) 和（c）的拓展，增加了云与终端设备之间的边缘层；（f）展示了边缘也能像终端设备一样被分布。
欢迎加入本站公开兴趣群商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法，实际应用案例分享与讨论，分析工具，ETL工具，数据仓库，数据挖掘工具，报表系统等全方位知识
QQ群：81035754
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/4626.html
摘要：与云计算中心不同，广域网的网络情况更为复杂，带宽可能存在一定的限制因此，如何从设备层支持服务的快速配置，是边缘计算中的一个核心问题。边缘计算可汲取云计算发展的经验，研究适合边缘计算场景下的隔离技术。 作者：施巍松团队（张星洲、王一帆、张庆阳） 计算模型的创新带来的是技术的升级换代，而边缘计算的迅速发展也得益于技术的进步。本节总结了推动边缘计算发展的7项核心技术，它们包括网络、隔离技术、...
摘要：行分封制，边缘计算列土封侯边缘计算可认为是从内容传送网络技术演变而来。我们经常会谈及边缘计算的应用前景，主要在于人工智能可以让云计算边缘计算的协同合作机制发挥最大效率。回顾近年来云计算、边缘计算、人工智能等技术的发展，从云计算对传统IT架构做出的颠覆性架构变革，到边缘计算实现计算能力的下沉，再到人工智能为各种平台构建算法和模型，各种新兴技术的风云角逐与3000年西周一统天下后的权力分配又何其...
摘要：不只云端电信业者纷纷押宝边缘计算的市场，连全球较大开源社群基金会今年月也决定成立新项目来大力推动边缘计算，要打造一套通用物联网边缘计算框架，超过家软硬件厂商和新创加入，包括等。为何有人开始主张边缘计算将会吃掉云计算，也有人相信纯云计算时代正迈向终结，而且不只云端龙头、商用软件巨头都抢着要押宝，连全球较大开源社群也大力支持，原因是什么？ 云端服务龙头Amazon每年冬天在美国拉斯韦加斯举...
摘要：不只云端电信业者纷纷押宝边缘计算的市场，连全球较大开源社群基金会今年月也决定成立新项目来大力推动边缘计算，要打造一套通用物联网边缘计算框架，超过家软硬件厂商和新创加入，包括等。 为何有人开始主张边缘计算将会吃掉云计算，也有人相信纯云计算时代正迈向终结，而且不只云端龙头、商用软件巨头都抢着要押宝，连全球较大开源社群也大力支持，原因是什么？云端服务龙头Amazon每年冬天在美国拉斯韦加斯举行的r...
摘要：于年成立移动边缘计算规范工作组，正式宣布推动移动边缘计算标准化工作。其基本思想是把云计算平台从移动核心网络内部迁移到移动接入网边缘，实现计算及存储资源的弹性利用。 本文选自最近人民邮电出版社新书《从云端到边缘：边缘计算的产业链与行业应用》第一章第二节5G时代的边缘计算，作者吴冬升，5G产...
阅读 1715·2023-04-25 21:11
阅读 2396·2021-09-30 09:47
阅读 2073·2021-09-24 09:48
阅读 2718·2021-09-06 15:01
阅读 4126·2021-08-23 09:43
阅读 741·2019-08-30 15:54
阅读 441·2019-08-28 18:01
阅读 1242·2019-08-27 10:55
