Catherine_zhilin

  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

绪论--数据挖掘

 

 

 

数据量不够--利用噪声

平均数具有欺骗性,中位数比较可靠

2--拟合和优化

矩阵的逆

学习速率尽量"自己动手,丰衣足食"

3--logistic   svm--分为二

用拉格朗日乘子法

https://baike.baidu.com/item/%E6%8B%89%E6%A0%BC%E6%9C%97%E6%97%A5%E4%B9%98%E5%AD%90%E6%B3%95/1946079?fr=aladdin

在什么情况下。Softmax分离器和one vs.all

4--神经网络

但是这两个方法在梯度时,会卡死

前馈神经网络:图像识别

循环神经网络:语言和视频

5--正则化

红线之后,过拟合,推广能力越来越差,前面区域叫做欠拟合,后面为过拟合。正则化的目的寻找合适的模型容量,使得正好落在红线区域。

训练的时候盯着看

卷积神经网络降低过拟合的概率

##对抗神经网络

##不要轻易降低神经网络层数,看看能采取什么样的正则化方法,避免过拟合

6--卷积神经网络--给机器一双慧眼

7--深度学习--自我进化的机器

人能和外界进行交互,他的每个行为影响环境,最大收益。利用机器通过深度学习建立环境的模型

做到端到端的学习

通过反复迭代旧模型

没有告诉机器游戏的规则,就给他几张图片,机器通过自己分析就能非常好的完成游戏。

使用随机梯度下降的方法

将参数个数降低10000个,大大减少参数数量,保留空间信息。

8--递归神经网络--时间之剑

 

(初步接触)

posted on 2017-12-11 14:18  kkkshiki  阅读(265)  评论(0编辑  收藏  举报