Connor

摘要： 现在已经改在github写博客了，地址为http://connorzhangxu.github.io/ 博客园用了几年，总体感觉不错，但是对公式的支持整体不是很好，所以后来自己搭建了github博客，自己配置环境，现在感觉还不错。 阅读全文

摘要： > Many problems in the field of signal processing have been expended into matrix problems.So it's necessary for us to know some basic knowledge,includ... 阅读全文

摘要： # 原子范数 > 区别于$l_1$范数只能用来处理稀疏向量和核范数只能处理稀疏矩阵，原子范数通过选取不同的基向量，可以有处理不同的问题。 ## 一、定义 ### 1.1 原子范数 $$||x||_A = \inf \{ t > 0|x \in tconv(A)\} $$ 简单的说，这是一个由A中的向 阅读全文

摘要： 次梯度方法 次梯度方法( "subgradient method" )是传统的梯度下降方法的拓展，用来处理不可导的凸函数。它的优势是比传统方法处理问题范围大，劣势是算法收敛速度慢。但是，由于它对不可导函数有很好的处理方法，所以学习它还是很有必要的。 次梯度（ "subgradient" ） ... 阅读全文

摘要： # 机器学习——推荐系统> 在各类音乐软件或各大购物网站里，通常会存在推荐系统。它可以根据每个用户的个人喜好为用户推荐相应的歌曲（商品），从而增加用户体验，并提高了产品的销量。因此，推荐系统是一个很值得学习的应用领域。## 一个例子如下图所示，这是4个用户对5部电影的评价，我们要求评价只能是0-5之... 阅读全文

摘要： # 机器学习——异常检测----------> 在生产生活中，由于设备的误差或者人为操作失当，产品难免会出现错误。然后检查错误对人来说又是一个十分琐碎的事情。利用机器学习进行异常值检测可以让人类摆脱检错的烦恼。##检测算法 * 1.选定容易出错的$n$个特征$\{x_1^{(i)},x_2^{(i)... 阅读全文

摘要： # 机器学习——聚类分析和主成分分析> 在机器学习中，非监督性学习主要用来分类。其中重要的两种就是聚类分析和主成分分析。这两类算法在数据压缩和数据可视化方面有着广泛的应用。所谓无监督学习是指训练集里面只有点$\{x^{(1)},x^{(2)},\ldots,x^{(m)}\}$，没有对应的性质标签$... 阅读全文

摘要： #常用不等式集锦> 在数学证明中，不等式常常扮演着重要的角色，我们经常利用一些不等式进行放缩，来求上下界；或者利用不等式和夹逼定理求出一个函数的值等等。为了方便查阅，我在此总结一下常用的不等式。不等式们，快到碗里来吧！## Holder不等式 * 级数形式。设$p>1,1/p+1/q=1,x_k... 阅读全文

摘要： # 机器学习——支持向量机（SVM）> 支持向量机（Support Vector Machine）广泛地应用于分类问题，回归问题和异常检测问题。支持向量机一个很好的性质是其与凸优化问题相对应，局部最优解就是全局最优解。本来打算大致写一下思想的。结果发现了已经有大神写的超级棒了。链接如下，看懂后来做笔... 阅读全文

摘要： 投影矩阵广泛地应用在数学相关学科的各种证明中，但是由于其概念比较抽象，所以比较难理解。这篇文章主要从最小二乘法的推导导出投影矩阵，并且应用SVD分解，写出常用的几种投影矩阵的形式。 问题的提出 已知有一个这样的方程组： $$Ax=b$$ 其中，$A \in R^{m \times n},x,b \i 阅读全文