07 2023 档案
摘要：Tensor advanced operation ▪ Where ▪ Gather # where 返回的最终的tensor中的每一个值有可能来着A,也有可能来自B。 >torch.where(condition,A,B)->tensor 满足condition条件则该位置为A[..],否则为B[
阅读全文
摘要：statistics ▪ norm (范数) ▪ mean,sum （平均值,求和） ▪ prod （累乘） ▪ max, min, argmin, argmax ▪ kthvalue, topk（第k大） # norm(范式) 这里面有一范式和二范式。 一范式： $$||x||_1=\sum_k|
阅读全文
摘要：Math operation ▪ Add/minus/multiply/divide（加减乘除） ▪ Matmul（矩阵相乘） ▪ Pow（次方） ▪ Sqrt/rsqrt（次方根） ▪ Round（） add/minus/multiply/divide 这个使用的时候可以直接使用运算符"+,-,*
阅读全文
posted @ 2023-07-31 14:50
lipu123
摘要：Merge or split ▪ Cat(合并) ▪ Stack(合并) ▪ Split（拆分） ▪ Chunk（拆分） # 合并 ## cat 这个就是合并两个tensor 比如说有两个班级的成绩单，一个是1-4班的，一个是5-9班的，我们现在需要合并这两份成绩单。 ▪ Statistics ab
阅读全文
摘要：Broadcasting是一种没有copy数据的expand Key idea: - 不过两个维度不相同，在前面插入维度1 - 扩张维度1到相同的维度 例如：Feature maps:[4,32,14,14] Bias:[32,1,1]=>[1,32,1,1]=>[4,32,14,14] A:[32
阅读全文
摘要：▪ View/reshape(这个是维度的变化) ▪ Squeeze/unsqueeze(维度的增加/减少) ▪ Transpose/t/permute(维度交换) ▪ Expand/repeat(维度的扩展) # view/reshape 这两个API，都是通用的a.reshape()和a.vie
阅读全文
摘要：# indexing ``` a=torch.randn(4,3,28,28) a[0].shape # torch.Size([3, 28, 28]) a[0,0].shape # torch.Size([28, 28]) a[0,0,2,4] # tensor(0.6574) ``` # sel
阅读全文
摘要：# Import from numpy >torch.from_numpy(data) ``` a=np.array([2,3.3]) a #array([2. , 3.3]) torch.from_numpy(a) #tensor([2.0000, 3.3000], dtype=torch.flo
阅读全文
摘要：python和pytorch中的类型对比： 我们可以发现pytorch中每中类型后面都有一个Tensor。 就是王后
阅读全文
摘要：# 1 XGBoost的基础思想与实现 ## 1.1 XGBoost pk 梯度提升树 极限提升树XGBoost(Extreme Gradient Boosting，XGB，发音/æks-g-boost/)是基于梯度提升树GBDT全面升级的新一代提升算法，也是提升家族中最富盛名、最灵活、最被机器学习
阅读全文
摘要：上一个博客AdaBoost算法只能说是开山鼻祖，今天要说的这个GBDT才是Boosting领域里面最为强大的算法之一。XGBoost和LightGBM也是在这个算法的基础上进行改进。 # 1 梯度提升树的基本思想 梯度提升树（Gradient Boosting Decision Tree，GBDT）
阅读全文
摘要：https://www.cnblogs.com/bytesfly/p/markdown-formula.html 注意这些用的时候都要用$$标签包裹，居中单独一行显示的话用$$$$包裹 1 除法 用这个：$\frac{分子}{分母}$ \[\frac{分子}{分母} \]2 上标和下标 用这个：$X
阅读全文
posted @ 2023-07-14 15:15
lipu123
摘要：# 1 Boosting方法的基本思想 在集成学习的“弱分类器集成”领域，除了降低方差来降低整体泛化误差的装袋法Bagging，还有专注于**降低整体偏差**来降低泛化误差的提升法Boosting。相比起操作简单、大道至简的Bagging算法，Boosting算法在操作和原理上的难度都更大，但由于专
阅读全文
摘要：集成学习是工业领域中应用最广泛的机器学习算法。实际工业环境下的数据量往往十分巨大，一个训练好的集成算法的复杂程度与训练数据量高度相关，因此企业在应用机器学习时通常会提供强大的计算资源作为支持，也因此当代的大部分集成算法都是支持GPU运算的（相对的，如果你发现一个算法在任何机器学习库中，都没有接入GP
阅读全文
摘要：# 1 数据介绍  首先看看这个数据，是从2005年到2008年的每一个小时的电力消耗值。 # 2 实现
阅读全文
摘要：sklearn在2022年进行了一次大的更新。 这里我们跟新的时候要先更新pip: ``` pip install --upgrade scikit-learn ``` # 1 集成学习的三大关键领域 集成学习（Ensemble learning）是机器学习中最先进、最有效、最具研究价值的领域之一，
阅读全文
摘要：ReLU激活函数只能在隐藏层中使用。 Sigmoid/Logistic和Tanh函数不应该用于隐藏层，因为它们会在训练过程中引起问题。 Swish函数用于深度大于40层的神经网络会好很多。 输出层的激活函数是由你要解决的预测问题的类型决定的。以下是一些需要记住的基本原则: 回归-线性激活函数 二元分
阅读全文
浙公网安备 33010602011771号