摘要: 前言 我们前面介绍了从 Op 到 Job,又从 Job 到 Plan,这篇文章将会分析运行时(Runtime)启动,分析 Actor 是如何启动的。运行时启动的时机,发生在启动 Session 的时候,将 Job 编译成一个物理可以执行的 Plan 之后,就可以按照 Plan 启动运行时,启动 Ac 阅读全文
posted @ 2021-09-05 19:51 楷哥 阅读(171) 评论(0) 推荐(0)
摘要: 前言 前面分析了如何从一个个 Op 变到 Job,这篇将分析如何从一个个 Job 变成一个 Plan。 Plan 首先来分析看看我们的目标是什么?我们的目标就是一个物理上可以执行的 Plan。OneFlow 在计算上的设计采用了 Actor 机制,计算图上的每个节点由一个 Actor 完成执行。那么 阅读全文
posted @ 2021-09-04 15:56 楷哥 阅读(345) 评论(0) 推荐(0)
摘要: 前言 前面在初始化 Session 的时候,通过 CurJobAddOp 将 Op 加入到计算图当中,实际上只是将 Op 加入到 Job 里面,而 Job 只是一个 Protobuf Message 罢了。如果用户定义了多个 Job,那么这些 Job 就会构成一个 JobSet。用户将算子添加完之后 阅读全文
posted @ 2021-09-03 11:14 楷哥 阅读(131) 评论(0) 推荐(0)
摘要: 前言 前面在初始化 Session 的时候,通过 CurJobAddOp 将 Op 加入到计算图当中。在启动 Session 之前,需要将这些 Op 组成的计算图编译成 JobSet。这篇文章主要分析如何从一个个 op 变成一个 Job,Job 如何在 Complete 函数内进行优化的。 流程分析 阅读全文
posted @ 2021-09-02 14:46 楷哥 阅读(183) 评论(0) 推荐(0)
摘要: 前言 在写这篇之前,已经写过一篇博客 [1] 分析了如何获取前端的表达式,不过我认为写的不够清晰,代码没怎么贴,后面再看发现只能看当时的思考,而不是源代码,所以就重新写一遍了。这篇文章会更加专注于 Python 端是如何构图的,更加关注算子的内部的执行过程。 带着如下几个问题去看代码: 什么时候获取 阅读全文
posted @ 2021-09-01 10:43 楷哥 阅读(324) 评论(0) 推荐(0)
摘要: 简介 暑期参加了开源之夏的活动:为 OneFlow 添加新的前端语言。功能已经基本做好了,不过我写的代码有点矬,所以读读 OneFlow 的源代码,看看别人是如何思考、如何设计的。在写这篇文章之前,反复阅读了 OneFlow 的研发工程师写的三篇文章[1],对整体有了一定的把握。在看这篇文章之前,强 阅读全文
posted @ 2021-08-31 21:02 楷哥 阅读(285) 评论(0) 推荐(0)
摘要: 简介 项目名称 为 OneFlow 添加新的前端语言 任务简介 因为各种机缘巧合和历史的必然, Python 成为了现在事实意义上的“人工智能编程语言”, OneFlow 也把 Python 作为了用户接口语言。然而事实上,Python 只是 OneFlow 的前端,复杂的计算和并行功能代码,还是通 阅读全文
posted @ 2021-08-26 22:40 楷哥 阅读(323) 评论(0) 推荐(0)
摘要: 卷积神经网络基础 feature map 大小计算 对于 Conv1d,Pytorch 的文档给出了如下的公式 1,对于二维和三维的情况是通用的。 $$L_{out} = \lfloor \frac{ L_{in} + 2 \times padding - dilation \times (kern 阅读全文
posted @ 2021-08-25 22:15 楷哥 阅读(422) 评论(0) 推荐(0)
摘要: 一 简介 题外话:昨晚将矩阵求导复习了一遍,仔细推导了大部分公式,这次复习略有体会,相比第一次学习更加熟悉了,这种东西就应该多看看,常看常新。矩阵求导,它的本质就是多元函数的求导,矩阵只是为了方便书写,是一种整体的视角。矩阵求导,还可以用矩阵加下标表示标量来逐元素求导,是一种微观的视角。 softm 阅读全文
posted @ 2021-08-22 20:54 楷哥 阅读(872) 评论(0) 推荐(0)
摘要: 中药说明书命名实体识别方案总结 参考链接:https://github.com/positivepeng/2020-tianchi-ChMedNER 阅读上面搜罗的几个方案,对每个方案进行概述,并写一个 CheckList 方便自己回忆思考,每个点都可以尝试一下,不保证有效,炼丹。 冠军方案 链接: 阅读全文
posted @ 2021-07-30 22:24 楷哥 阅读(957) 评论(0) 推荐(0)