随笔分类 - 校招
摘要：1. xgboost在目标函数中加入了正则化项，当正则化项为0时与传统的GDBT的目标函数相同2. xgboost在迭代优化的时候使用了目标函数的泰勒展开的二阶近似，paper中说能加快优化的过程！！xgboost可自定义目标函数，但是目标函数必须二阶可导也是因为这个。GDBT中只用了一阶导数。3.
阅读全文
摘要：1）Bagging + 决策树 = 随机森林 2）AdaBoost + 决策树 = 提升树 3）Gradient Boosting + 决策树 = GBDT
阅读全文
摘要：boosting 是一种将弱分类器转化为强分类器的方法统称，而adaboost是其中的一种，或者说AdaBoost是Boosting算法框架中的一种实现 https://www.zhihu.com/question/37683881 gdbt(Gradient Boosting Decision T
阅读全文
摘要：https://zhuanlan.zhihu.com/p/32230623 首先定义：待优化参数： ，目标函数： ，初始学习率 。 而后，开始进行迭代优化。在每个epoch ： sgd： 先来看SGD。SGD没有动量的概念，也就是说： 代入步骤3，可以看到下降梯度就是最简单的 SGD缺点：下降速度慢
阅读全文
摘要：反向传播：https://zhuanlan.zhihu.com/p/22473137 https://blog.csdn.net/cppjava_/article/details/68941436 2.解决梯度爆炸问题的方法 通常会使用一种叫”clip gradients “的方法. 它能有效地权重
阅读全文
摘要：https://zhuanlan.zhihu.com/p/24913912
阅读全文
摘要：作者：魏秀参链接：https://www.zhihu.com/question/38102762/answer/85238569来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 1. What is BN?规范化！即在每次SGD时，通过mini-batch来对相应的ac
阅读全文
摘要：过程： 1. 彩色图像转换为灰度图像 彩色转灰度图公式： gray = R * 0.299 + G * 0.587 + B * 0.114 2. 对图像进行高斯模糊 3. 计算图像梯度，根据梯度计算图像边缘幅值与角度（这里其实用到了微分边缘检测算子来计算梯度幅值方向） 求每个点x，y两个方向的梯度，
阅读全文
摘要：1.过采样，多次训练小数量的类别或者把小类别造数据，比如一些数据增强的方式 2.降采样，多的类别只选部分来寻来呢 3.每个batch里面类别尽量均衡 4.在loss里面加权重 5.ohem，因为可能类别比较多，训练网络久了，也许loss就小了 6.分治ensemble将大类中样本聚类到L个聚类中，然
阅读全文
摘要：衡量预测值与真实值的偏差程度的最常见的loss： 误差的L1范数和L2范数 因为L1范数在误差接近0的时候不平滑，所以比较少用到这个范数 L2范数的缺点是当存在离群点（outliers)的时候，这些点会占loss的主要组成部分。比如说真实值为1，预测10次，有一次预测值为1000，其余次的预测值为1
阅读全文
摘要：1.阿里一面全程问项目，但个人感觉我对项目的熟悉程度和我的点并不够熟悉 2.阿里二面：1.梯度消失、梯度爆炸的解决办法 2.yolo1、2、3的演进 3.开放题：激光雷达怎么做检测 3点 4.机器人行走的一道动态规划
阅读全文
摘要：公式推导：https://github.com/zimenglan-sysu-512/paper-note/blob/master/focal_loss.pdf 使用的代码：https://github.com/zimenglan-sysu-512/Focal-Loss 在onestage的网络中，
阅读全文
摘要：很好的一个讲解卡尔曼滤波的文章：https://zhuanlan.zhihu.com/p/39912633 1.实践前提是这些数据满足高斯分布。 2.理论前提是一个高斯斑乘以另一个高斯斑可以得到第三个高斯斑，第三个高斯斑即为提取到相对精确的数据范围。 观测也有误差，所以需要将预测和观测相结合 将预测
阅读全文
摘要：使用kmeans的聚类算法选择数据集最可能的anchor size和ratio。K-means算法是很典型的基于距离的聚类算法，采用距离作为相似性的评价指标，即认为两个对象的距离越近，其相似度就越大。 kmeans缺点：kmeans中k代表k个种子点或者聚类中心，这个值必须先选定。kmeans对初始
阅读全文
摘要：idea：ROI pooling前都是卷积，是具备平移不变性的，但一旦插入ROI pooling之后，后面的网络结构就不再具备平移不变性了，就解决了分类和定位的矛盾，但因为引入roi-wise layer，会牺牲训练和测试的效率。因此，本文想提出来的position sensitive score
阅读全文
摘要：在region proposal阶段采用不同的iou。 第一幅图，不同颜色的线是用不同的region proposal的iou阈值，横坐标是region proposal生成的框与gt的原始iou，纵坐标是未经过训练的框经过bounding box regression后生成的新框与gt的iou，发
阅读全文
摘要：流程：1.detections和trackers用匈牙利算法进行匹配 2.把匹配中iou < 0.3的过滤成没匹配上的(1、2步共同返回匹配上的，没匹配上的trackers，没匹配上的detections) 3.更新匹配上的detections到trackers 4.把没匹配上的detections
阅读全文
摘要：1.理论上浅层是提取一些物体的一般特性，颜色、纹理、形状等 2.提出position sensitive score map还有个idea：随着网络深度的增加，网络对于位置（Position）的敏感度越来越低，也就是所谓的translation-invariance，但是在Detection的时候，
阅读全文
摘要：代办项： 把自己做的实验全部总结一次 1.浅层和深层concat和eltwise相加性能上有啥区别 把dssd和fpn做一个对比，既然没办法在fpga上用deconvolution，如果dssd效果好，那可以用dssd 统计数据的所有size大小，然后把anchor改了 2.把backbone从st
阅读全文
摘要：上图是2^x-1的曲线，取值范围在（-1，正无穷） 上面两个公式组成了隶属函数(membership)表示隶属度，隶属度就是衡量这个点同下边缘点是否属于同一个物体。实际上M函数就是2^x-1，但M函数的取值范围在(-1,1]，且bottom点取到最大值1.小于0的点属于背景，大于0的点属于物体。 1
阅读全文
浙公网安备 33010602011771号