张淼

摘要：离散型随机变量概率分布函数1、二项分布使用: 当进行确定次数相互独立的试验，每一次试验都存在成功或者失败的可能，求成功或者失败的概率表达式: 当，则, p是单次试验成功的概率，n为试验次数期望: 方差: 2、几何分布使用: 当进行多次相互独立的试验，每一次试验都存在成功或者失败的可能，求首次成功的概率表达式: 当，则，p是单次试验成功的概率期望: 方差: 3、泊松分布使用：单独事件在给定的区间内随机的、独立的发生，并已知特定时间内事件发生的平均次数，求给定区间内事件发生的概率表达式：当， 则，表示事件平均发生次数期望：方差： 阅读全文

摘要：CPU# vmstat 1# top -d 1# mpstat -P ALL 1# while :; do ps -eo,pid,ni,prri,pcpu,psr,comm | grep 'process-name'; sleep 1;doneMEM# /usr/bin/time -v date# /usr/bin/time -v evolution# cat /proc/meminfoI/O# iostat -x 1# iotop -d 5 -PNET# /usr/sbin/ethtool eth0# iptraf -d eth0查看sock连接# /usr/sbin/net 阅读全文

摘要：1、由线性回归引出的分类问题 在线性回归中，X定义域为实数集，假设函数(Hypothesis)值域也取值实数集，那么希望有一种假设函数可将取值为实数集特征向量映射到有限的值域。logistic函数： logistic函数可以将取值为特征向量映射到值域(0,1)。 关于X特征向量的假设函数 那么我们可将有限值域的回归函数通过设定决策边界将之变为判别函数 2、损失函数线性回归的损失函数为 若假设函数(Hypothesis)为逻辑斯蒂函数，则损失函数的不是一个二次的凸函数，用梯度下降法不能求其的极值，但损失函数不限于一种。统计学习中常用的损失函数有以下几种：(1)、0-1损失函数(0-1 loss 阅读全文

摘要：1、判别分类模型假设输入空间X中的每个特征x取值为实数集，输出空间y = {-1,+1}，那么一个分类器可以表示为二值函数 其中输出值为1的样本为正例，输出值为-1的样本为负例。线性感知机的假设前提是样本空间线性可分，既有一个超平面能够将特征空间划分为两个部分2、感知机模型 若给定的向量特征向量X带入g(x) 0则样本为正例，否则为负例。那么对感知机的学习过程就是对w, b的估计3、损失函数感知机的学习过程是定义一个损失函数，通过学习策略使得损失函数的值最小化。它的定义为误分类点到超平面的的总距离，点到超平面的距离定义为 是的L2范数，对于误分类点(x,y)来说 -y(wx + b)>0 阅读全文

摘要：1、假设模型线性回归的前置假设是给定的样本模型满足线性关系，即假设的线性模型可以近似的拟合数据 在确定假设模型之后，需要的是对模型函数的参数进行估计，这里是对向量进行估计2、损失函数我们需要一个机制去评估向量θ是否比较好的拟合数据，所以说需要对迭代中的假设模型h进行评估，称为损失函数（loss function），描述h函数与真实数据的误差，我们期望于有某种方法使得误差值最小 3、梯度下降法目标：步骤：1、对于每个，给一个初始值，例如都等于0 2、每次改变的时候都保持损失函数J递减，直到达到一个我们满意的最小值；对于任何损失函数J , 初始位置不同，最终达到的极小值点也不同描述：repeat. 阅读全文