摘要: 正则化个人认为是一些传统机器学习中最为核心的一个概念,它提供了一种形式去表示算法设计者对于目标模型形式的偏好,或者对模型进行一定的约束 表示对函数的偏好是比增减假设空间的成员函数更一般的控制模型容量的方法 具体来说,正则化项给目标函数添加了一个额外的惩罚项,使得参数在学习的过程中,强制在正则化项描述 阅读全文
posted @ 2025-04-08 15:29 rdcamelot 阅读(35) 评论(0) 推荐(0)
摘要: 符号 例如要表示矩阵时,需要粗体 \mathbf{} \(\mathbf{A}\) 表示向量也有 \boldsymbol{x} \(\boldsymbol{x}\) 实数符号等一般使用黑版粗体 \mathbb{} \(\mathbb{R}\) 表示估计量 \hat{P}(c) \(\hat{P}(c 阅读全文
posted @ 2025-04-08 14:02 rdcamelot 阅读(300) 评论(0) 推荐(0)
摘要: 用在测试集上的测试误差作为泛化误差的近似 测试误差,或者测试集的获得就要依据不同的评估方法 评估方法 留出法 将数据集划分为两个互斥的集合,其中一个集合作为训练集,另一个作为测试集 划分过程中尽可能保持数据分布的一致性,保留类别比例的采样方法称为“分层采样” 交叉验证法 将数据集D划分为k个大小相似 阅读全文
posted @ 2025-04-08 00:37 rdcamelot 阅读(36) 评论(0) 推荐(0)
摘要: 向量 一个向量时一列数,这些数是有序排列的 用符号 - 表示集合的补集中的索引,例如\(\boldsymbol{x}_{-1}\)表示\(\boldsymbol{x}\)中除\(x_1\)外的所有元素 张量 坐标超过两维的数组 矩阵 特殊矩阵 满秩矩阵:rank(A)=min(m,n) 正定矩阵:是 阅读全文
posted @ 2025-04-08 00:00 rdcamelot 阅读(60) 评论(0) 推荐(0)
摘要: 主要基于西瓜书、深度学习花书、统计学习方法 基于篇幅和实际应用,只打算侧重于整理概念之间的关系以及多本书内容的整合,不会过多设计推导以及一些更深的概念 作为对机器学习的一个初步认识,很多内容可能有不准确的地方 大多机器学习算法都是在利用梯度和学习率来进行更新,但是在梯度的计算以及具体利用梯度的什么形 阅读全文
posted @ 2025-04-07 22:07 rdcamelot 阅读(13) 评论(0) 推荐(0)
摘要: \(\mu(x)\)为莫比乌斯函数,定义为:\(\mu(x) = \begin{cases} 1, & \text{if } x = 1 \\ (-1)^k, & \text{if } x = p_1 p_2 \ldots p_k \\ 0, & \text{otherwise} \end{case 阅读全文
posted @ 2025-04-03 15:20 rdcamelot 阅读(119) 评论(0) 推荐(0)
摘要: 一些在平时做算法题时不太会用到的函数 rotate函数 定义在<algorithm>头文件中,其作用是将范围内的元素进行循环移位: rotate(first,middle,last)会将[first,middle)和[middle,last)范围内的元素互换位置,也就是左循环移位直到middle称为 阅读全文
posted @ 2025-04-02 17:42 rdcamelot 阅读(32) 评论(0) 推荐(0)
摘要: 目录操作 使用cd命令来切换 1. 返回主目录 可以使用cd ~或者cd 使用后会切换到/home/user 2. 返回上一级目录 可以使用cd .. 3. 返回上一个目录 可以使用cd - 例如:如果从 /home/user 切换到 /home/user/documents,然后运行 cd -,会 阅读全文
posted @ 2025-03-31 11:19 rdcamelot 阅读(212) 评论(0) 推荐(0)
摘要: 1. lambda函数 用于创建匿名函数,可以作为排序函数中的自定义排序规则,或者作为高阶函数的参数 例如: 按照元组的第二个元素进行排序 numbers=[(1,2),(3,1),(5,4)] numbers.sort(key=lambda x:x[1]) 和map函数一起使用,实现对可迭代对象的 阅读全文
posted @ 2025-03-29 00:50 rdcamelot 阅读(24) 评论(0) 推荐(0)
摘要: 如果使用vscode,通过git扩展可以直接在vscode的侧边栏中进行仓库的更新和上传,同时可以查看修改,拉取历史版本,较为方便 下面是不使用扩展,仅利用git bash的提交方法 第一次提交 在希望上传的文件夹中右键,open Git Bash here 然后在Bash下运行命令来配置用户名和电 阅读全文
posted @ 2025-03-26 01:07 rdcamelot 阅读(47) 评论(0) 推荐(0)