边缘人工智能介绍

什么是边缘人工智能,它是如何工作的?

边缘人工智能(Edge AI)是一种制作人工智能工作流程的范式,其范围从集中式数据中心(云)到网络的最边缘。网络的边缘指的是终端,甚至可以包括用户设备。

边缘人工智能与更常见的做法形成对比,即人工智能应用程序完全在云中开发和运行。这种做法,人们已经开始称之为云人工智能。

另一方面,边缘人工智能结合了人工智能和边缘计算。边缘计算使计算和数据存储尽可能接近请求点,以提供低延迟和节省带宽,以及其他优势。人工智能是计算机科学的一个广泛的分支,涉及建立能够执行通常需要人类智慧的任务的智能机器。

通过边缘人工智能,机器学习算法可以直接在边缘运行,数据和信息处理可以直接发生在物联网设备上,而不是在中央云计算设施或私人数据中心。

机器学习(ML)是一个研究领域,致力于理解和建立使机器能够模仿人类智能行为的方法。它执行复杂的任务,是人工智能的一个子领域。

边缘计算正在迅速增长,因为它有能力支持人工智能和ML,也因为它的固有优势。它的主要好处是

  • 减少了延时
  • 实时分析
  • 低带宽消耗
  • 提高安全性
  • 降低了成本

边缘人工智能系统利用这些优势,可以在现有的CPU或甚至能力较差的微控制器(MCU)上运行机器学习算法。

与其他利用人工智能芯片的应用相比,边缘人工智能提供了卓越的性能,特别是关于数据传输的延迟和消除网络中的安全威胁。

边缘人工智能为终端用户释放许多好处

在设备上或靠近数据源的地方处理人工智能的能力为公司释放了11个令人印象深刻的好处。这些好处包括

  • 提高带宽效率
  • 减少了延时
  • 更少的尺寸和重量限制
  • 增强隐私
  • 更低的硬件成本
  • 脱机运行的能力
  • 高可用性
  • 提高了模型的准确性
  • 可持续发展的优势
  • 与基于云的人工智能相比,成本更低
  • 自动化水平提高

也有一些用例从边缘人工智能中获益匪浅。这些包括银行、内容和广告服务、交付物流系统、家庭安全系统、气象技术、推荐引擎等等。

边缘人工智能有助于使所有这些成为可能,随着我们继续建立越来越强大的技术,重要的是要考虑它们如何帮助我们的生活质量。

边缘人工智能的优势和劣势

边缘人工智能的优势包括:

  1. 减少了延时

边缘人工智能将部分负载从云平台上移开,减少了延迟。此外,通过本地分析,减少了从云端到使用信息的公司的返回时间,使基于云的平台可以自由地进行其他任务,如分析。

  1. 减少带宽

正如边缘人工智能提供了减少延迟一样,它也减少了带宽。因为更多的数据被处理、分析和存储在本地,更少的数据被发送到云端。这种数据流的减少使用户成本最小化。

  1. 安全性

边缘人工智能导致更少的数据被发送到集中式云存储。通过在边缘网络中处理和存储一些数据,将 "所有鸡蛋放在一个篮子里 "的情况降到了最低。如果数据确实需要发送到云端,边缘网络会过滤多余的、不相干的和不需要的数据,只发送重要的内容。

4.可扩展性和多功能性

随着Edge设备变得越来越普遍,它们通常可用于基于云的平台。此外,随着OEM设备制造商使Edge功能成为其设备的原生功能,系统将更容易扩展。这种扩散也使本地网络即使在上游或下游节点停机时也能保持功能。

边缘人工智能的缺点包括:

  1. 丢失数据

在实施时,边缘人工智能系统必须进行彻底的规划和编程,以避免数据丢失。许多边缘设备在收集后会丢弃不相关的数据(这是应该的),但如果倾倒的数据是相关的,这些数据就会丢失,任何分析都会有缺陷。

  1. 安全性

就像在云和企业层面有安全优势一样,在本地层面也有安全风险。如果一个公司拥有一个安全性能很好的云计算供应商,但他们的本地网络却容易被破坏,这对公司没有好处。虽然基于云的安全正变得越来越强大,但通常是人为错误和本地使用的应用程序和密码打开了大多数漏洞的大门。

  1. 更少的计算能力

边缘人工智能很出色,但它仍然缺乏基于云的人工智能的计算能力。

正因为如此,只有选定的人工智能任务可以在边缘设备上执行。云计算仍将处理大型模型的创建和服务,但边缘设备可以用较小的模型执行设备上的推理。边缘设备也可以处理小型的转移学习任务。

  1. 机器变化

依靠边缘设备意味着机器类型的变化明显增多。所以,故障更常见。

边缘人工智能或云人工智能对安全和隐私更好吗?

虽然云计算提供了许多好处,但它遭受了重大的隐私和安全问题,使基于边缘的人工智能成为许多公司的一个有吸引力的选择。

基于云的人工智能的一个大问题是,它把数据从用户手中拿走。

云客户不是把敏感数据放在身边,而是把他们的数据发送到一个大公司的集中式数据中心,这个中心有时非常遥远。

这伴随着隐私风险,因为云数据中心很容易受到黑客攻击,更不用说数据在运输过程中更有可能被拦截和篡改。

另一方面,边缘人工智能提供了令人难以置信的数据安全和隐私,正是因为数据是在本地而不是在集中式服务器内处理的。

虽然这并不是说支持Edge的设备可以免受安全和隐私风险的影响,但这确实意味着往来于服务器的数据较少,这意味着黑客在任何特定时间可以攻击的数据集合较少。

另一个优势是,支持Edge AI的设备往往持有最少的数据量。因此,即使在网络攻击中,黑客也只能拿到少量的数据,而不是完整的数据集。

当使用基于云的人工智能时,隐私很容易在攻击中被破坏,因为云服务器往往包含关于地点、事件和人的完整信息。

相比之下,由于边缘人工智能只创建、处理和分析特定实例中所需要的数据,因此在发生攻击时,其他敏感数据无法被篡改。

边缘人工智能正在蓬勃发展--以下是其五大场景

一些人工智能用例最适合在边缘进行,在那里,处理发生在或接近数据源,减少延迟,降低成本,增加数据隐私,并提高可靠性。

由于在边缘看到的固有好处,许多公司正在投资边缘解决方案,刺激创新,当然还有新的边缘AI用例。

5个顶级的边缘人工智能用例包括:

  • 安全和监控
  • 工业物联网
  • 自动驾驶车辆
  • 医疗保健用例
  • 智能家居用例

这些例子强调了边缘人工智能是如何积极地影响当今世界的。它们展示了边缘人工智能可以为家庭和工作中的用户提供的一些最重要的创新和独创性。

发现边缘人工智能的前11个行业案例

边缘人工智能使处理和存储能力更接近它们的需要。因此,边缘人工智能技术可以被用于各个行业,并带来巨大的利益。

边缘人工智能的前11个行业例子包括:

  1. 语音识别

语音识别算法,在移动设备上转录语音。

  1. 健康监测器

使用本地人工智能模型,可穿戴健康监测器评估心率、血压、葡萄糖水平和呼吸。

  1. 机器人手臂

机器人手臂逐渐学习更好的方法来抓取特定的包裹,然后与云端分享这些信息以改善其他机器人。

  1. 结账时的物品计数边缘AI

边缘人工智能的无收银员服务,如Amazon Go,会自动计算放入购物者包中的物品,而不需要单独的结账过程。

  1. 边缘人工智能优化交通控制

智能交通摄像头,自动调整灯光时间以优化交通。

  1. 自主的卡车车队

自主车辆促进了卡车车队的自动排队,允许司机从除前面的卡车外的所有卡车上离开。

  1. 远程资产监控

远程监控石油和天然气行业的资产,边缘人工智能使实时分析与处理更接近资产。

  1. 边缘人工智能能源管理

智能电网,其中边缘计算将是一个核心技术,可以帮助企业更好地管理其能源消耗。

  1. 产品线的故障检测

边缘人工智能帮助制造商在故障发生前分析和检测其生产线的变化。

  1. 病人监测

边缘人工智能病人监测在本地处理数据,以维护隐私,同时实现及时通知。

  1. 自动驾驶汽车

自动驾驶汽车可以连接到边缘,以改善安全,提高效率,减少事故,减少交通拥堵。

要想更详细地探讨这些边缘人工智能用例,请看我们的博客《发现行业的11大边缘人工智能用例》。

边缘人工智能正在改变企业

边缘人工智能可以提供无限的可扩展性和令人难以置信的性能,使企业能够有效地使用其数据。这就是为什么许多全球公司已经在收获边缘人工智能的好处。

边缘人工智能可以大大有利于众多行业,从驱动自动驾驶汽车到改善装配线的生产监控。

边缘人工智能正在改变企业
在此基础上,最近在许多国家推出的5G为边缘人工智能提供了额外的推动力,因为更多的工业边缘人工智能应用不断涌现。

边缘人工智能可以通过以下方式使企业受益:

  • 边缘人工智能是一种高效的资产管理工具
  • 边缘人工智能保证了更好的客户满意度
  • 边缘人工智能有助于大规模基础设施和边缘设备的生命周期管理
    可以看出,对许多企业来说,实施Edge AI是一个明智的决定。

边缘人工智能为家庭摄像头领域带来了大量的新好处

基于边缘的人工智能技术在计算机视觉应用中已经变得越来越可用和实惠。这使该技术能够进入日常消费产品,如家庭摄像头和其他智能家居产品。

由边缘人工智能支持的家庭摄像头同时提供最先进的安全和便利。

例如,想象一下,当你走进家门时,家庭安全摄像头会识别你的脸,并自动将温度、灯光和音乐调整为你喜欢的设置。如果你的室友先到家,系统可以调整到他们喜欢的预设值。

在安全方面,当捕捉到熟悉的面孔时,这些家庭摄像头会意识到他们是你的家人或朋友,不会触发警报。否则,它们会向你发出即时警报,让你知道有人可能会闯入你的财产。

凭借强大的边缘人工智能算法,人脸识别家庭摄像头可以大大减轻因光线条件变化、树木移动和风而引发的错误警报。

它变得更好。配备Edge AI的家庭摄像头可以接受训练,以检测包裹、宠物和家庭内外的其他物体。

边缘人工智能还可以识别戴着太阳镜或面具的人脸,这对传统的安全摄像机来说几乎是不可能的。与基于云的家庭摄像头解决方案相比,它们还能大幅降低延迟。

边缘人工智能为视频分析带来了多种多样的好处

边缘视频分析系统可以通过直接嵌入摄像头的边缘人工智能芯片或附带的边缘计算系统来执行计算机视觉和深度学习算法。

边缘计算提供了将人工智能工作负载从云端转移到边缘进行视频分析的机会,提供了改善响应时间和节省带宽等优势。由于这个原因,人们对边缘人工智能技术的兴趣正在快速增长。

新兴技术和趋势影响雷达:当涉及到以图像或实时视频等大数据流为输入的计算机视觉模型时,边缘部署的好处是强大的。

边缘人工智能技术增强的处理效率给人工智能辅助的视频设备带来了切实的改善。这影响了可实现的任务的数量和质量,这要归功于边缘人工智能提供的出色的带宽效率、改进的延迟和减少的功率限制。

随着边缘人工智能工具继续改进并变得更加强大,它们将引领智能视频分析的新时代,其能力和可能的用途迅速扩大。

边缘人工智能对物联网的积极影响

IoT(物联网)可以是一个强大的商业资产。尽管如此,如果企业仅仅依靠云计算和基于云的人工智能,这些设备产生的数据还有很长的路要走。

此外,随着企业继续投资于物联网,在传统资产上增加传感器,其带宽负载将迅速变得沉重。

边缘智能通过在产生数据的操作中直接提供实时洞察力来解决这些问题。

大多数物联网配置是这样工作的: 传感器或设备通过路由器直接连接到互联网,向后端服务器提供原始数据。在这些服务器上,机器学习算法帮助预测管理人员可能感兴趣的各种情况。

然而,当太多的设备堵塞了网络时,事情就变得棘手了。例如,也许本地Wi-Fi上有太多的流量,或者数据被输送到远程服务器。为了帮助缓解这些问题,机器学习算法可以部署在本地服务器或设备本身。

这就是所谓的边缘人工智能。

边缘人工智能通过在本地操作的计算机或嵌入式系统上而不是在远程服务器上运行机器学习算法,使物联网受益。它提供了一个机会,在将数据发送到远程位置进行进一步分析之前,对数据进行分类并决定哪些是相关的。

此外,物联网的边缘人工智能提高了性能,因为它可以在没有延迟的情况下做出决定。这是可能的,因为数据分析可以完全在支持边缘的物联网设备上完成。

边缘人工智能和云人工智能之间的区别

边缘人工智能和云人工智能之间的差异主要体现在机器学习或深度学习的用例上。之所以如此,是因为深度学习算法需要密集处理,这使得所使用的硬件性能成为一个重要因素。

云人工智能可以提供良好的性能,但大多数深度学习应用不能对数据传输过程中的延迟做出妥协,也不能对网络中的安全威胁做出妥协。由于这些原因,边缘人工智能是人工智能应用的一个有吸引力的解决方案。

如前所述,功耗始终是干预边缘人工智能处理决策的一个因素。这些担忧是可以理解的,因为繁重的计算需要更高的电力供应。

好消息是,目前的边缘人工智能处理器拥有性能更高、功耗更低的人工智能加速器。虽然GPU和TPU仍然需要高功率,但设计和电路架构的改进将很快压倒这个问题。

这使得越来越多的公司能够在边缘部署人工智能(AI)和机器学习(ML)解决方案。

边缘人工智能和云人工智能之间的区别
当人工智能和ML算法在设备上本地运行时(在网络边缘),边缘人工智能设备可以处理数据,独立做出决定,几乎不提供延迟,并在互联网连接中断时产生有价值的见解。

边缘人工智能芯片为物联网提供了一个有吸引力的解决方案

边缘计算已经确立了自己作为物联网设备的一个有吸引力的解决方案,以快速节能的方式提供高质量、可操作的传感器数据。

为了充分实现这一潜力,研究人员和行业领导者一直在竞相开发新的、专门的芯片,以完成设备上的计算要求任务。

作为这些努力的结果,边缘人工智能芯片已逐渐成为人工智能应用和物联网小工具的一个有吸引力的答案。

边缘人工智能芯片为物联网提供了一个有吸引力的解决方案
已有的供应商和初创公司已经跃跃欲试,以补充或取代传统的控制器和微处理器。

边缘的人工智能分析为用户提供了流畅的体验,而不需要到云计算服务的数据处理之旅。对于供应商来说,它有可能产生大量的收入。

随着传感器数据越来越多地在边缘处理,边缘人工智能处理将可能刺激整个物联网市场的增长,边缘人工智能芯片将进入越来越多的消费产品,如智能家居设备。

边缘人工智能芯片也将以机器人、相机、传感器和其他物联网设备的形式进入多个企业市场。

总而言之,边缘计算已经不可否认地为自己奠定了良好的基础,成为以投资效益高的方式为物联网小工具提供顶级传感器信息的诱人答案。

这使得科学家和行业先驱们争先恐后地培育能够在边缘执行人工智能任务的新芯片。

什么是边缘人工智能芯片以及它们与物联网的关系如何?

为什么我们需要边缘人工智能硬件?
随着对实时深度学习工作负载的需求不断增加,允许在设备上进行快速深度学习的专用边缘人工智能硬件变得越来越有必要。

除此之外,今天的标准(基于云的)AI方法不足以覆盖带宽,确保数据隐私,或提供低延迟。因此,人工智能任务需要转移到边缘。

你可能想知道5G是否会解决这些问题。

虽然5G承诺了低延迟,但它仍然需要依靠边缘计算来实现其在实验室的速度。5G的推广速度很慢,并没有解决带宽或隐私问题。边缘技术仍然是高度相关的。公司选择将他们的人工智能工作负载转移到网络的边缘就是一个例子。

由于这种向边缘的移动,最近的边缘人工智能趋势正在推动对特定人工智能硬件的需求,用于设备上的机器学习推理。

专门的人工智能硬件,也被称为人工智能加速器,可以在边缘设备上经济有效地加速数据密集型的深度学习推理。

谈到计算机视觉,工作负载很高,而且是令人难以置信的数据密集型。正因为如此,为Edge设备使用AI硬件加速有很多优势。这些包括:

  • 更好的速度和性能
  • 更大的可扩展性和可靠性
  • 离线能力
  • 更好的数据管理
  • 改善隐私

虽然深度学习推理可以在云中进行,但由于带宽、隐私问题和对实时处理的需求,对边缘人工智能的需求正在迅速增长。

这使得边缘设备的AI硬件加速成为许多计算机视觉任务的一个有吸引力的选择。

深度学习正在转移到边缘,以受益于边缘AI

深度学习是一种机器学习技术,它教计算机做人类自然的事情:通过实例学习。

深度学习模型可以达到最先进的精确度。有时它们甚至可以超过人类水平的性能。深度学习模型是使用大量的数据和包含许多层的神经网络架构来训练的。

几乎所有需要 "思考 "的问题都是深度学习可以学习解决的问题。

根据深度学习模型的目标应用,它可能需要低延迟,增强安全性,或长期的成本效益。

在这种情况下,将深度学习模型托管在边缘而不是云端可能是最好的解决方案。这是因为边缘深度学习在单个设备或比云更接近设备的环境中运行深度学习进程。这减少了延迟,降低了高额的云处理成本,并提高了安全性。

深度学习正在向边缘移动,为边缘人工智能带来好处:尽管如此,在深度学习用例中,在边缘人工智能和云人工智能之间的选择仍然存在不确定性。由于深度学习算法需要密集处理,硬件的性能成为一个重要因素。

云人工智能可以为系统提供出色的性能,但大多数深度学习应用不能向数据传输的延迟和网络中的安全威胁妥协。这使得边缘人工智能与基于云的解决方案相比,成为人工智能应用的一个有吸引力的选择。

由于单独的云不一定是人工智能应用的绝佳选择,边缘和云人工智能的混合可以提供更好的性能。

例如,由于训练好的模型需要针对实时数据进行更新,这种训练可以在云端完成,但实时数据可以通过Edge AI在硬件上进行处理,以产生输出。

在这种情况下,处理部门将两种技术的优点发挥出来。因此,它提供了一个比基于云的人工智能本身更好的选择。 然而,仍然要记住,大多数应用程序需要更快的实时更新训练,所以边缘人工智能通常比云人工智能技术更可取。

合成数据如何改善边缘AI的数据收集和训练?

我们的社会在很大程度上依赖于像人工智能这样的技术,而且这在未来只会越来越多。

当我们准备迎接一个令人难以置信的创新世界时,有一件事是清楚的--数据科学家和工程师在本质上受到传统的边缘人工智能算法训练方法的限制。

人工智能模型不能利用任何旧的数据集,因为在训练公平和有效的边缘人工智能时,必须考虑到道德因素和偏见。

该领域的专家和专业人士提出合成数据是解决数据收集和训练的伦理问题的革命性方案。

合成数据指的是人工生成的数据集。

为了创建合成数据集,数据科学家使用随机生成的合成数据来掩盖敏感信息,同时保留原始数据的统计学相关特征。

合成数据可以提供完美的标签、真实的数据集和模拟环境的规模,使企业能够克服人工智能市场的典型进入障碍。

因此,据预测,合成数据将缓解加速上市时间表的复杂局面,因为它消除了企业获取大量数据的需要,而这些数据可能是费时和昂贵的。

什么是TinyML,为什么它很重要?

机器学习(ML)是一种人工智能,它允许软件应用程序在没有明确编程的情况下变得更准确地预测结果。机器学习算法使用历史数据作为输入来预测新的输出值。

ML使用数据和算法来模仿人类的思维和学习方式。

推荐引擎是机器学习的一个日常用例,而其他流行的用途包括欺诈检测、垃圾邮件过滤、恶意软件威胁检测、业务流程自动化(BPA)和预测性维护。

另一方面,TinyML是生产机器学习模型的艺术和科学,其节俭程度足以在网络的边缘工作。这是一个快速增长的机器学习技术和应用的领域,包括硬件、算法和软件。

无论是独立的物联网传感器、多种类型的设备,还是自动驾驶汽车,都有一个共同点:越来越多地,在边缘产生的数据被用来提供由机器学习模型驱动的应用。

机器学习模型从未被设计为部署在边缘地区,但TinyML使之成为可能。

TinyML可以在极低的功率下进行设备上的传感器数据分析,实现各种永远在线的用例,并针对电池操作的设备。

什么是TinyML,为什么它很重要?
基于复杂的机器学习算法来分析大量的数据需要大量的计算能力。因此,数据处理传统上发生在企业内部的数据中心或基于云的基础设施。

然而,随着强大、低能耗的物联网设备的到来,计算现在可以在边缘设备上执行。这催生了在网络边缘部署卷积神经网络(CNN)等先进机器学习方法的时代。

边缘人工智能如何成为人工智能的未来?

由于我们今天经历的数据的大量增加,边缘计算和边缘人工智能正在成为不可或缺的技术,因为它们能够将数据从负担过重的云数据中心移走。

虽然预测到2028年,边缘计算基础设施的全球市值估计将超过8000亿美元,但企业正在大力投资于人工智能(AI)。

虽然许多公司正在进行Edge相关的技术投资,作为其数字化转型之旅的一部分,但具有前瞻性的组织和云计算公司通过融合Edge计算和人工智能(Edge AI)看到了新的机遇,使Edge AI成为Edge计算未来的一部分。

边缘人工智能将改变企业,因为这些模型有一个优化的边缘计算基础设施,可以在边缘和接近边缘的地方处理更多的人工智能工作负载。

正因为如此,边缘人工智能可以提供行业领先的性能和无限的可扩展性,使企业能够有效地使用他们的数据。

边缘人工智能技术的市场将蓬勃发展

根据MarketsandMarkets Research发布的一份报告,全球边缘人工智能软件市场将从2020年的5.9亿美元增长到2026年的1.83万亿美元。

边缘人工智能技术的市场将蓬勃发展
各种因素,如云上的企业工作负载增加和智能应用数量的快速增长,预计将推动边缘人工智能解决方案和服务的采用。

边缘人工智能软件供应商已经实施了各种有机和无机增长战略,如新产品推出、产品升级、伙伴关系和协议、业务扩张和并购,以加强他们在市场上的产品。

边缘安全有助于保护使用边缘人工智能的设备

边缘计算和边缘人工智能技术正在快速增长,这已不是什么秘密。但不幸的是,正因为如此,安全问题也急剧增加。

边缘计算和边缘人工智能正在成为不可或缺的技术,因为它们有能力将数据从负担过重的云计算数据中心转移出来。两者都是相对较新的技术,不幸的是,在最好的时候,网络安全是一个有分歧的话题,更不用说在相对未知的水域涉及新问题时。

有一点可以肯定的是,由于目前正在发生的边缘技术的指数级上升,对边缘安全的需求正在增长。

边缘安全的目的是保护在设备中生存或旅行的数据。它还在公司网络的最远端或 "边缘 "保护用户的敏感数据。

边缘计算和边缘安全的主要驱动力是移动和物联网应用。

移动和物联网应用正在爆炸性增长,创造了对高度可访问、低延迟、高性能、安全和易于扩展的平台的需求,能够处理在边缘产生和消费的巨大数据量。

边缘人工智能和边缘计算在这些方面比云计算和基于云的人工智能有优势。在此基础上,可以采取额外的措施来提升边缘技术的安全性。这些安全措施包括:

  • 创建一个安全的周界: 通过加密隧道、防火墙和访问控制,确保对边缘计算资源的访问。
  • 确保应用程序的安全: 确保边缘计算设备运行的应用程序可以超越网络层的安全。
  • 启用早期威胁检测: 确保供应商实施主动的威胁检测技术,以尽早发现潜在的漏洞。
  • 创建自动化补丁周期: 确保自动补丁到位,以保持设备更新,同时减少潜在的表面攻击的风险。
  • 管理漏洞: 实施措施以确保持续维护和发现已知和未知的漏洞。
  • 边缘安全有助于保护使用边缘人工智能的设备

边缘人工智能的最后总结

由于最近的创新,边缘计算为新的人工智能机会铺平了道路,这在以前是无法想象的。

今天,几乎所有的企业都有工作职能,可以从采用Edge AI中获益。此外,家庭用户也收获了边缘人工智能技术变得更加普遍的好处。也许关于智能家居技术,可以看到最明显的例子。

总的来说,这篇文章已经探讨了今天边缘人工智能的许多组成部分,以及边缘人工智能技术在未来将实现的新机会。

posted @ 2023-04-21 09:11  磁石空杯  阅读(204)  评论(0编辑  收藏  举报