会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
MyAJY
博客园
首页
新随笔
联系
订阅
管理
2023年11月7日
概率统计
摘要: 随机变量与分布函数 随机变量本质上就是个变量,它分为两种:连续型随机变量(变量的可能取值是连续的,比如小酱等车的时间没法精确到准确的值)和离散型随机变量(变量的可能取值是离散的,比如小酱扔硬币只有正反面两种值)。 分布函数的定义:假如 \(X\) 是个随机变量,那么它的分布函数 \(F(x)\) 被
阅读全文
posted @ 2023-11-07 11:36 MyAJY
阅读(51)
评论(0)
推荐(0)
2022年5月16日
DQN算法
摘要: Q-Learning算法 输入:episodes \(T\),状态集合 \(S\),动作集合 \(A\),步长 \(\alpha\),衰减因子 \(\gamma\),探索率 \(\epsilon\) 输出:所有状态和行为对应的 \(Q\) 值表 随机初始化 \(Q\) 值表,终止状态所对应的 \(Q
阅读全文
posted @ 2022-05-16 00:01 MyAJY
阅读(1214)
评论(0)
推荐(0)
2022年1月6日
梯度消失与梯度爆炸
摘要: 假设一个5层神经网络:输入层、3层隐藏层、输出层,其中每层只有一个神经元。 对于第$i$层,输出为$z_i=\sigma (y_i)=\sigma (w_ix_i+b_i)$,其中$x_i=z_{i-1}$;设损失函数为$L$,那么在反向传播更新参数时,比如$b_1$,其梯度为:\(\frac{\p
阅读全文
posted @ 2022-01-06 20:17 MyAJY
阅读(197)
评论(0)
推荐(0)
过拟合与欠拟合
摘要: 训练误差:在训练集上的误差。 测试误差:在测试集上的误差,也称为泛化误差。 注:在先前未观测到的输入上表现良好的能力被称为泛化。 欠拟合(underfitting):模型在训练集上不能获得足够低的误差 过拟合(overfitting):训练误差与测试误差之间的差距太大。 通过调整模型的容量(capa
阅读全文
posted @ 2022-01-06 19:32 MyAJY
阅读(106)
评论(0)
推荐(0)
2021年12月25日
交叉熵损失函数
摘要: 熵的概念 信息量:衡量一个事件的不确定程度。假设一个事件发生的概率为$p$,则信息量$I=\log \frac{1}{p}=-\log p$ 信息熵:信息量的加权平均,对整个概率分布中的不确定性总量进行量化,即$H(p)=-\sum_{i}p_i\log p_i$ 信息熵又称为香农熵,给出了对依据概
阅读全文
posted @ 2021-12-25 16:36 MyAJY
阅读(146)
评论(0)
推荐(0)
2021年12月1日
用户态到内核态的三种方式
摘要: 1.系统调用:用户态主动要求切换到内核态,从而使用内核提供的各项服务。比如,Linux创建进程时中用户态的fork()会调用到内核态的sys_fork()和do_fork()等。 2.中断:外设完成用户请求后(如完成读写操作),发出中断信号,CPU暂停执行下一条要执行的指令,而去执行中断处理程序。
阅读全文
posted @ 2021-12-01 08:58 MyAJY
阅读(2683)
评论(0)
推荐(2)
2021年11月30日
进程与线程的区别
摘要: 1.进程具有独立的地址空间,而一个进程内部的多个线程共享内存。 2.线程是轻量级的进程,线程的上下文切换要比进程快很多。 在线程中,除了PC、堆栈(用于函数调用)、寄存器、状态等是独有的。如地址空间、全局变量、打开的文件等都是共享的。 3.所以,进程是资源分配的基本单位,线程是CPU调度的基本单位(
阅读全文
posted @ 2021-11-30 21:36 MyAJY
阅读(130)
评论(0)
推荐(0)
公告