zcry

摘要： 写在前面，一定要看懂self attention的代码实现，注意矩阵乘是谁@谁，矩阵乘不可以变换位置！！！ Attention的出现 由于翻译任务往往不是1 vs 1的翻译，因此输入与输出不等长，所以出现了encoder-decoder的形式： RNN具有短期记忆的问题，随着输入序列的增加，以前的输 阅读全文

摘要： 一些感想 写在开头，如果你是一个坚定选择工作的研究生，在CPP和Java之间反复跳转，那么有以下几种情况，建议你选CPP： 对CPP有强大的兴趣，且组内有成熟的方向，例如：高性能计算、音频开发等方向，可以选择。 仅仅想找一份工作，不要跟自己过不去，Java很好，尤其是后端。 博主是在模型部署里做了一 阅读全文

摘要： 最近在看强化学习的经典课程手动学习强化学习，每一课都会提到随机下降和随机梯度下降，看的似懂非懂。刚刚回顾了一下以前的笔记，茅塞顿开，特地记录一下。 随机下降 Q1:随机下降在做什么？ 随机下降的公式这里不再记录，它的目的是为了求函数的解（这个很重要）。 Q2:强化学习里为什么需要随机下降？ 因为希望 阅读全文

摘要： 深度强化学习 表格来存储每一个状态state和Q值显然是不现实的，除了存储开销，搜索开销也非常巨大。深度强化学习（Deep Q Network）是强化学习与深度学习的结合，利用神经网络作为函数逼近器来解决高维或复杂状态空间下的强化学习问题。 其关键特征就是使用深度神经网络（DNN）代替表格化的值函数 阅读全文

摘要： 强化学习 此笔记作为参考资料的补充，用于记录我在学习过程中不理解的地方。 请优先看西瓜书，里面讲解的更清晰。强烈推荐学习视频：深度强化学习背后的数学原理 强化学习的目标是：通过试错法找到一个最优策略 π，使智能体能够在不同状态下选择动作，从而最大化累积的折扣奖励。 马尔科夫决策 马尔可夫决策过程（M 阅读全文

摘要： 如果是比较新的android ndk的版本，建议使用lldb进行调试，参考：vscode lldb远程调试 - OpenFDE - OpenFDE Docs，将lldbserver push到移动端，开启端口调试，配置launch.json即可。 我调试的项目使用的是ndk-r17c，该版本的ndk 阅读全文

摘要： 报错原因 python版本过低，vscode的插件不再支持低版本的python调试。 尝试方法 如果搜这个报错，常见的方法就是降低插件版本，但是可能带来新的问题：vscode Cannot read properties of undefined (reading 'resolveEnvironme 阅读全文

摘要： 在学习希尔排序的过程中，发现很多博客只在讲希尔排序是什么，没有解释希尔排序是怎么设计的，为什么要使用增量。 在开始前，我们要先强调一下，希尔排序的时间复杂度并不固定，它依赖于增量序列的选择。在最坏的情况下，希尔排序的时间复杂度为O(n^2)，但是对于某些特定的增量序列，其时间复杂度可以降低到O(n^ 阅读全文

摘要： 递归的基本流程 在《代码随想录》里，我们了解了递归的三要素： 确定参数和返回值。 确定终止条件。 确定单层递归逻辑。 关于二叉树这一分类，解题思路基本都在围绕着二叉树的深度遍历和广度遍历，而二叉搜索树则几乎全部都是二叉树的深度遍历，只是将对结点的访问换成了其它的操作。 以力扣669为例，分析二叉搜索 阅读全文

摘要： 算子切分 在了解算子切分前，先了解一下卷积的运算过程，作者将算子切分分为了两个维度的切分：OC维度和H维度，没有W维度可能与数据在内存中的存储方式有关。 OC维度切分 卷积就是OC数量个kernel_size×kernel_size×IC大小的卷积核与输入张量卷积计算后的输出叠加，因此从OC维度上切 阅读全文