08 2020 档案

logistics hypothesis
摘要：logistics hypothesis 将一个范围内的值转化成0/1 三种线性模型 推导：将f换成h 推导最小的Ein（w） 求微分： 循序找到w：（10.3） v为变化方向且长度为1. 坡度大就走的多一些，与坡度正相关。 fixed learning rate purple是红和蓝的比值。 总结 阅读全文
posted @ 2020-08-30 17:03 吴莫愁258 阅读(160) 评论(0) 推荐(0)
高阶函数
摘要：高阶函数会自动帮实现for循环 模拟filter（） 函数不加括号：加括号调用的是函数运行结果，不加括号是调用函数；且布尔值不能被调用。 filter（函数也就是过滤条件，对象）：过滤 map（）：映射 sorted（）：排序，不在局限于列表。revers=—1，倒序；key=函数名（可以是自定义也 阅读全文
posted @ 2020-08-30 00:28 吴莫愁258 阅读(102) 评论(0) 推荐(0)
字典
摘要：字典创建方式 第一种（利用zip函数）： print(dict(zip(list1,list2))) 第二种（利用dict直接创建）： dict（a=1,b=2,c=3） 阅读全文
posted @ 2020-08-29 17:49 吴莫愁258 阅读(121) 评论(0) 推荐(0)
线性回归
摘要：定义 进行加权求和之后不用进行sign运算 因此，线性回归分析的目的就是找到最接近的线/平面。（红色部分为余数，蓝色部分为h） 计算最小的Ein（w） w为加权系数 E（in）为凹函数，设最低点为W（lin） y（hat）=Xw，X是一个N维的平面。 要让y-y（hat）最小，即做平面span的垂直 阅读全文
posted @ 2020-08-28 20:16 吴莫愁258 阅读(191) 评论(0) 推荐(0)
Noise and Error
摘要：验证g≈f 1.未知x 2.任一x 3.预测是否与结果相同 classification error也可以说时“0/1 error” pointwise：计算每个点上的error再做一个平均，衡量每个点上的error。 两种pointwise 0/1 error用于分类，平方用于判断距离目标y是否过 阅读全文
posted @ 2020-08-27 15:43 吴莫愁258 阅读(116) 评论(0) 推荐(0)
VC Dimesion
摘要：Review 当break point k存在时，m（N）就会被N的k-1次方bound住。 条件： VC Dimesion 定义：在VC Dimesion中h可以shattere某N个点，超过VC Dimesion时（即到k）时，就会出现不能shattered的情况。 因此： 可以推出： 注意：当 阅读全文
posted @ 2020-08-25 14:06 吴莫愁258 阅读(204) 评论(0) 推荐(0)
常见内置函数
摘要：all() : 判断一个数组里面的值是否都为真，并返回布尔值 any() : 判断一个数组里面的值是否有真，若有真，返回True callable（）：判断一个对象是否能被调用，只有整型变量不能被调用 chr（）：将对应ASCII码位转化为字符 ord（）：将字符转化为对应码位 complex（）： 阅读全文
posted @ 2020-08-24 22:19 吴莫愁258 阅读(142) 评论(0) 推荐(0)
匿名函数
摘要：lambda 形参：返回值 （返回值只有一个） 可以没有形参，相当于def（） def func（x，y）： return x + y 等同于 lambda x，y：x + y 匿名函数的作用：常用于不太常用的函数，不用其名字了。 匿名函数用法 函数地址加（）表示直接调用 注意 不能直接调用，要实例 阅读全文
posted @ 2020-08-24 16:59 吴莫愁258 阅读(108) 评论(0) 推荐(0)
2D可以进行学习的证明
摘要：k，N，m（H）的关系 此时x2，x3为一组有四种情况，可以被shatter，因此这组数据不能加入。 当break point k=2时，每组两个数据，当N>k时，k很大程度上限制了h的数量即m（H）。 练习题 由B（3，3）推B（4，3）： B（4，3）=2a+β B（3，3）=a+β 将E（ou 阅读全文
posted @ 2020-08-24 15:58 吴莫愁258 阅读(112) 评论(0) 推荐(0)
关于h的数量M
摘要：review 因此机器学习被拆分为两个重要问题：1.E（out）足够接近E（in）？2.E(in)足够小？ 关于h的数量M 当h1和h2很接近时，发生bad事件的概率是重叠的。因此联级相加的结果远大于实际，无法处理M无限大时的情况。 当只有一笔资料时： 只有两种h。 当有两笔资料时： 会有四种h。 阅读全文
posted @ 2020-08-23 15:01 吴莫愁258 阅读(515) 评论(0) 推荐(0)
机器学习的可行性
摘要：霍夫丁不等式： 当样本N足够大时，μ和v相差很大的可能性很小。（需要合适的N和误差，N越大，μ和v接近的几率越大；且不需要知道μ） 证明了可由小样本的v推出μ。 用D检验h，即x是否与f相同（监督式学习x还会有标签y） 流程 从罐子中取样，得到一个概率P（g与f相同的概率），有两个用途：1.产生资料 阅读全文
posted @ 2020-08-22 21:39 吴莫愁258 阅读(218) 评论(0) 推荐(0)
机器学习的分类
摘要：由y分类可分成：二元分析，多类别分析，回归分析，结构分析... 监督学习：知道样本的特征（硬币的重量、面值） 非监督学习：不知道特征，分类与聚类 半监督学习：少部分样本有标签（适用于获得标签较困难的情况） 强化学习（reinforcement learning）：基于奖惩机制，找到奖励最多的那个po 阅读全文
posted @ 2020-08-15 23:45 吴莫愁258 阅读(309) 评论(0) 推荐(0)
PLA
摘要：PLA：Perceptron Learning Algorithm PLA的任务就是找到将数据集划分为两个区域的线。 基本模型 也可以叫linear classifiers 注意：上标表示第几个样本，下标表示这个样本的第几个特征 PLA算法流程： 输入：训练数据集{(X1,Y1),(X2,Y2),. 阅读全文
posted @ 2020-08-14 23:17 吴莫愁258 阅读(518) 评论(0) 推荐(0)
Python环境配置
摘要：1.Python3.8：解释器，将程序员的语言翻译成机器语言 2.IDLE：官方自带的编译器，也就是程序员写程序的地方，使用时影响程序可读性和调试 3.Pycharm，vscode：集成环境，Pycharm是专为Python设计的，可直接使用；vscode需安装Python扩展包 4.Anacond 阅读全文
posted @ 2020-08-14 22:59 吴莫愁258 阅读(114) 评论(0) 推荐(0)