文章分类 - 上手MindSpore系列
摘要：2.3 MindSpore的Ascend平台通信 对于Ascend AI处理器，MindSpore分布式并行训练的通信使用了华为集合通信库Huawei Collective Communication Library（HCCL）。mindspore.communication.management中
阅读全文
摘要：2.2 MindSpore的GPU平台通信 在GPU硬件平台上，MindSpore分布式并行训练的通信使用的是NCCL；采用的多进程通信库是OpenMPI。NCCL是Nvidia Collective multi-GPU Communication Library的简称，是英伟达提供的多GPU集合通
阅读全文
摘要：3. 自动并行架构介绍 MindSpore设计了一套自动并行的方案，解决了手动并行架构的现实困难。 该方案实现了数据并行&模型并行的混合并行训练。而且可以根据训练时间建立代价模型，为用户选择最优的训练模式，以算子为粒度切分模型到设备集群自动运行，实现自动并行分布式训练。 该方案将开发人员与算法科学家
阅读全文
摘要：3.1. 半自动并行 在MindSpore中系统自动分析张量的空间排布与所需的通信策略。仅需要指定算子的切分策略，系统就可以自行实现所需的数据并行与模型并行策略。如下图所示：在input的指定维度设置设备数即可在指定维度进行数据拆分；在模型参数weight的指定维度设置设备数即可在指定维度进行模型拆
阅读全文
摘要：全自动并行 为了进一步帮助用户更加快速的并行训练网络，MindSpore引入了并行切分策略自动搜索的特性。MindSpore近似计算出不同数据量不同算子在不同切分策略下的训练时间，通过动态规划算法自动搜索出在一定内存阈值下性能最优的切分策略。搜索策略代替了用户手动指定模型切分，在较短的时间内得到高性
阅读全文
摘要：分布式并行模块 1、分布式并行训练的优势 在深度学习发展的过程中为了更好的网络学习能力和泛化能力，数据集和模型规模都呈指数式提高。在NLP领域随着Transformer层的堆叠，模型的精度确实有所提高，但与此同时，模型参数所需的内存很快达到了性能上线。在人脸识别领域，因为全连接层的参数规模收到分类数
阅读全文
摘要：一、软硬件环境 硬件平台：阿里云服务器 规格族：计算平衡增强型 c6e实例规格：ecs.c6e.largevCPU：2 vCPU内存：4 GiB处理器主频/睿频：2.5 GHz/3.2 GHz处理器型号：Intel Xeon(Cascade Lake) Platinum 8269CY 软件平台 操作
阅读全文
摘要：一、前言 2020年3月28日，MindSpore正式开源，备受广大开发者的关注。从4月30日发布的v0.2.0-alpha版本，到8月30日发布的v0.7.0-beta版本，推出了数十个亮眼的新特性，9月，在华为全联接大会上，MindSpore正式发布v1.0.0版本。 有关Mindspore 1
阅读全文
摘要：MindSpore 自从开源以来，备受广大开发者的关注。 在全球开发者的测试验证下，经过几个测试版本的不停改进，在前不久的华为全联接大会上，MindSpore正式发布v1.0.0版本！！！ 大家可以快去官网围观一下，MindSpore官网：https://www.mindspore.cn 接下来我介
阅读全文
摘要：在 https://bbs.huaweicloud.com/forum/thread-80520-1-1.html 这个帖子中，笔者想体验源码安装mindspore，然而到目前为止，革命尚未成功。。。 不过，pip安装mindspore我倒是试了2次，一个是根据天一大大和JeffDing大大的帖子试
阅读全文
摘要：一、前言 学习MindSpore有段时间了，说说我的使用心得吧。我是从一个AI小白开始学习深度学习，步入AI领域的，在接触到MindSpore之前，有听说TF、Pytorch等深度学习框架，但是没有去学习，所以MindSpore可以算是我AI领域的敲门砖吧。 MindSpore的安装十分简单，根据官
阅读全文
摘要：背景 自从华为开源了MIndSpore深度学习框架，题主就始终惦记着要充分利用手里有且仅有的游戏本，给它加持一套高大上的支持GPU的MindSpore环境，但让人泪奔的是——MindSpore-gpu不兼容Windows！！！ 虽然MindSpore也能在Windows里运行，但那是CPU的安装版。
阅读全文
摘要：概述 最近从朋友那儿得知华为的深度学习框架MindSpore更新到了1.0.0版本，效率比起之前提高了好多，到MindSpore官网上看看了一番，官网上可视化教程记事本文档引起了我的兴趣。于是，打算 在这篇记事本文档基础之上，学习下如何记录训练过程的数据。 过程 首先是下载数据集 附上代码： imp
阅读全文
摘要：第一次安装，我的环境是CPU+windows 推荐使用pip安装，因为比较方便 在官网按照这个配置点好，他的安装命令就出来啦 红色框内的复制一下去命令行窗口粘贴运行就可以了 对于我这种小白来说，简直不要太友好啊！！！1 经过漫长的等待。。。。 主要是有一个30.5M的包，太大了，装了有30分钟左右
阅读全文
摘要：背景：华为MindSpore-GPU无法在Windows系统中运行。“金字塔项目”的目标是兼顾MindSpore-GPU超强能力，同时也不牺牲Windows的便利，鱼与熊掌得兼，不亦爽哉。 金字塔项目历史文章： 金字塔项目（二）：MindSpore-GPU在同一主机的不同环境中的性能粗评 在Win1
阅读全文
摘要：Mindspore是最佳匹配昇腾AI处理器算力的全场景深度学习框架，现在已经发布了1.0.1版本，鉴于多数人都是使用windows系统，我想简单说下如何在windows系统上安装Mindspore，另外照例先说明下： 1、此教程基于华为云官方的教程并丰富细节。 2、此教程适合新手安装使用，大佬请忽略
阅读全文
摘要：体验在Windows上进行源码编译安装MindSpore 笔者一直使用MindSpore提供的whl包安装MindSpore，但是最近新版本一直还未出来，也看到了一位楼主在论坛反馈的问题BiggestFanMindSpore 多平台编译踩坑与用户初体验，于是也尝试按照MindSpore官网提供的另一
阅读全文
摘要：又到了做作业抽奖的时间了。。虽然MindSpore虐我千遍，我却待她如初恋。 闲话少说，先在自己的虚拟机大全中找到有gcc 7.3.0和python 3.7.5的那种。 确认过眼神，按照 MindSpore.cn/install的提示开干吧。。打工人~~ 输入 pip3 install https:
阅读全文
摘要：使用了一台华为鲲鹏服务器来布置，CPU:Huawei Kunpeng 920 2.6GHz，4vCPUs | 8GB ，系统：Ubuntu 18.04 server 64bit with ARM 一、先升级 先换个清华的ARM源 sudo cp /etc/apt/sources.list /etc/
阅读全文
摘要：版本号截图： 硬件平台和操作系统：CPU+windows-x64 体验内容：安装步骤 1.首先，我们进入到MindSpore的官网，进行查看安装命令，先选取你需要的版本，硬件平台和操作系统，会自动生成安装命令。 2.我使用的是pip的安装，在Anaconda的安装环境里进行安装，可以在命令行进行环境
阅读全文
浙公网安备 33010602011771号