摘要：
逻辑回归和线性回归区别 一、总结 一句话总结： 因变量不同：logistic回归与线性回归实际上有很多相同之处，最大的区别就在于他们的因变量不同，其他的基本都差不多，正是因为如此，这两种回归可以归于同一个家族，即广义线性模型（generalizedlinear model）。 二项分布：logist 阅读全文
posted @ 2020-10-02 12:07
范仁义
阅读(895)
评论(0)
推荐(0)
摘要：
200927_深度学习 4、Where does the error come from（偏差和方差） 一、总结 一句话总结： error due to "bias"（偏差） and error due to "variance"（方差） 1、简单函数（比如1次）和复杂函数（比如5次）得到的vari 阅读全文
posted @ 2020-09-30 19:08
范仁义
阅读(206)
评论(0)
推荐(0)
摘要：
200927_深度学习 1-3、Meta Learning（杂） 一、总结 一句话总结： Meta Learning=Learn to learn，从其它数据集上获取先验数据，以便用少量数据（实际情况很多都是这样）可以得到很好效果 1、discriminator可以做生成么？ discriminat 阅读全文
posted @ 2020-09-30 17:55
范仁义
阅读(160)
评论(0)
推荐(0)
摘要：
为什么Regularization可以解决过拟合 一、总结 一句话总结： Regularization是把参数w加到loss里面去，而y=wx+b，参数越小，y越平滑 也就是y对x越不敏感，自然可以解决x本身噪声带来的影响（也就是去除特别数据带来的影响），也就自然越接近真实模型 1、正则化loss算 阅读全文
posted @ 2020-09-30 17:29
范仁义
阅读(103)
评论(0)
推荐(0)
摘要：
持续学习 (continual learning/ life-long learning)略讲 一、总结 一句话总结： 可塑性：如何能把之前任务的经验用上，使得更快更好的学习当前任务； 稳定性：学习当前任务时，不会忘记之前已经学会的任务。 用更专业的术语来讲就是可塑性（学习新知识的能力）和稳定性（旧 阅读全文
posted @ 2020-09-30 15:44
范仁义
阅读(2409)
评论(0)
推荐(0)
摘要：
什么是meta-learning 一、总结 一句话总结： 虽然我要做的这个数据集数据很少，但是我有很多其它数据很多的数据集呀。如果模型可以先在其它数据比较多的数据集上学到这些有关“该如何学习新的知识”的先验知识，由此让模型先学会“如何快速学习一个新的知识”，岂不美哉 1、传统的机器学习是在干嘛？ 有 阅读全文
posted @ 2020-09-30 14:36
范仁义
阅读(507)
评论(0)
推荐(0)
摘要：
李宏毅-Network Compression课程笔记 一、总结 一句话总结： 就是网络压缩，把大的网络结构压缩成小的网络结构，便于资源少的设备使用 1、为什么要做迁移学习？ 迁移到手机、机器人、手表等Resource-limited的一些设备 1、limited memory space 内存空间 阅读全文
posted @ 2020-09-30 08:46
范仁义
阅读(173)
评论(0)
推荐(0)
摘要：
修改一个像素，让神经网络识别图像出错 一、总结 一句话总结： 微小扰动非常敏感：最近研究表明，DNN 的输出并不是连续的，它对输入向量上的微小扰动也非常敏感，并且我们已经依据若干种方法对神经网络造成有效扰动。 差分进化（differential evolution）：在本论文中，我们基于差分进化（d 阅读全文
posted @ 2020-09-30 08:05
范仁义
阅读(318)
评论(0)
推荐(0)
摘要：
对抗攻击领域综述（adversarial attack） 一、总结 一句话总结： 对抗攻击英文为adversarial attack。即对输入样本故意添加一些人无法察觉的细微的干扰，导致模型以高置信度给出一个错误的输出。 1、对抗攻击的意义？ 我们不知道神经网络提取到的特征点：深度神经网络对输入图片 阅读全文
posted @ 2020-09-30 07:49
范仁义
阅读(7345)
评论(0)
推荐(0)
摘要：
Explainable AI旨在提高机器学习模型的可解释性 一、总结 一句话总结： 可解释性：Explainable AI旨在提高机器学习模型的可解释性。 不通俗易懂：它不会以通俗易懂的方式来解释事物，但是该分析对于首先构建机器学习模型的数据科学家和开发人员仍然有用。 解释基于模型性质和训练数据：可 阅读全文
posted @ 2020-09-30 07:34
范仁义
阅读(251)
评论(0)
推荐(0)
浙公网安备 33010602011771号