Fork me on GitHub

KAN:使用 Microsoft 的 KubeAI Application Nucleus简化边缘 AI

我们需要的是在 Kubernetes 上构建和管理边缘机器学习应用程序的一致方法,一种可以加快开发和交付速度的方法。这就是 KAN 的作用,即 KubeAI Application Nexus。正如介绍性博客文章所指出的那样,这个名字来自一个普通话动词,翻译为“观看”或“看”。KAN 是一个开源项目,托管在 GitHub 上


  • Microsoft 的 KAN 项目大规模简化了 Kubernetes 上机器学习应用程序的开发和管理。
  • KAN 提供了一个环境,用于在边缘硬件上运行代码、聚合来自本地连接设备的数据以及利用预先训练的机器学习模型。
  • 该平台为本地或基于云的 Kubernetes 系统提供监控和管理门户以及低代码开发环境。
  • KAN 与 Azure Edge 和 AI 服务集成,用户可以通过附加计算设备和利用各种计算设备来构建应用程序。
  • KAN 支持工业 IP 摄像机,便于使用 Azure VM 进行测试,并支持对摄像机源进行多对多处理。
  • 开发人员可以使用 KAN 的图形设计工具来构建“AI 技能”并导出数据以自定义工作流程。
  • KAN 简化了目标设备的打包和部署,未来计划支持部署到多个设备。
  • 该项目从 Azure Percept 中汲取灵感,并将 IoT 工具概念与 Microsoft Power Platform 的功能相结合。


随着工业应用越来越依赖计算机视觉来实现产品线管理、库存控制和安全监控等关键功能,在网络边缘利用计算机视觉的挑战变得更加明显。延迟和对混合网络或云资源的依赖阻碍了计算机视觉与边缘设备的无缝集成。认识到这一需求,Microsoft首席执行官萨蒂亚·纳德拉(Satya Nadella)引入了“智能边缘”的概念,旨在将云原生工具和服务引入网络内的设备。

虽然 Microsoft 在容器化 Azure 认知服务并通过 Azure IoT Edge 交付这些服务方面取得了重大进展,但在自定义边缘实现方面仍然存在差距。容器已成为边缘软件的理想部署方法,Kubernetes 和服务网格为代码部署提供了与平台无关的解决方案。正是在这种背景下,KAN(KubeAI Application Nexus)项目诞生了,它提供了一个托管在 GitHub 上的开源解决方案。

KAN 的主要目标是大规模简化 Kubernetes 上机器学习应用程序的开发和管理。它提供了一个环境,用于在边缘硬件上运行代码、聚合来自本地连接设备的数据,以及利用预训练的机器学习模型的强大功能来获得有价值的见解。此外,KAN 还提供全面的监控和管理门户以及用户友好的低代码开发环境,与本地和基于云的 Kubernetes 系统兼容。

需要注意的是,KAN 管理门户主要用作控制和监视界面,而不是数据终结点。通过与 Azure Edge 和 AI 服务(如 Azure IoT 中心和 Azure 认知服务)无缝集成,KAN 在托管在 Azure 平台上时提供增强功能。若要开始使用 KAN,用户需要具有 Helm 支持的 Kubernetes 群集,而 Azure 用户可以利用 Azure Kubernetes 服务 (AKS) 进行简化设置。

安装 KAN 后,用户可以通过 KAN 门户利用其功能,在其中可以附加各种计算设备,例如 NVIDIA Edge 硬件或 Azure Stack Edge。KAN 支持在 Kubernetes 群集或 Azure Edge 设备上运行的各种设备。此外,该平台还通过利用 Azure VM 作为测试设备来促进测试,从而能够创建数字孪生,以确保边缘系统以最佳方式运行。KAN 还将其支持扩展到工业 IP 摄像机,并支持多对多处理,允许多个应用程序与摄像机馈送无缝协作。

使用 KAN 开发机器学习应用程序需要仔细选择合适的设备架构和加速技术。KAN 建议将加速设备(例如 NVIDIA 和 Intel 的 GPU 或 NPU)用于安全关键型边缘应用。为了帮助开发人员完成这一过程,KAN提供了一个基于节点的图形设计工具,可以简化“AI技能”的构建。这个直观的工具将相机输入连接到模型,并允许对输出进行转换和过滤。此外,KAN 支持将数据导出到其他应用程序和服务,使用户能够创建自定义工作流程。

一旦应用程序被构建并经过全面测试,KAN 就会通过其用户友好的门户简化目标设备的打包和部署过程。虽然目前仅限于一次部署到一台设备,但 KAN 未来计划支持部署到多个设备,确保所有部署的集中视图。这简化了将机器学习应用程序交付到 Kubernetes 系统或 Microsoft 的 Azure IoT Edge 运行时容器主机的过程,为开发人员提供了统一和简化的方法。

从取消的 Azure Percept 解决方案中汲取灵感,KAN 旨在通过其低代码工具简化边缘 AI 部署。通过采用与 Percept 开发人员体验类似的方法,KAN 将关键的 IoT 工具概念与 Microsoft Power Platform 的功能相结合,最终增强了构建和部署机器学习应用程序的便利性。

结论:

KAN 的出现及其在简化边缘 AI 部署方面的能力标志着市场的重大发展。通过提供一个全面的平台,用于在 Kubernetes 上大规模开发和部署机器学习应用程序,KAN 解决了与在网络边缘利用计算机视觉相关的挑战。

它与 Azure 服务的集成以及对各种计算设备的支持为企业高效利用边缘机器学习的强大功能开辟了新的机会。这一进步有望推动各行各业的创新和创造价值,为加速增长和提高运营效率铺平道路。

posted @ 2024-06-16 15:09  张善友  阅读(58)  评论(0编辑  收藏  举报