11 2022 档案

如何提交天池数据竞赛（docker镜像）
摘要：docker常用操作 显示容器 docker ps -a 显示镜像 docker images 删除镜像 注意，如果无法删除，需要先将运行中的容器给删除。 docker rmi IMAGE_ID 删除容器 docker rm CONTAINER_ID 运行容器 docker run IMAGE_NA 阅读全文
posted @ 2022-11-20 18:52 阿莱慢慢来 阅读(207) 评论(0) 推荐(0)
神经网络中的权重初始化方式和pytorch应用
摘要：深度学习模型中的权重初始化对模型的训练效果有很大的影响，对预训练模型的研究就是为了在大模型上先训练出较好的权重，然后再放到不同的小任务上微调。 对于不加载预训练的模型，仍然可以通过定义模型权重初始化的方式来使得模型获得较好的效果，以下介绍不同的权重初始化方法、适用场景及效果。 计算增益 对于线性 | 阅读全文
posted @ 2022-11-18 15:32 阿莱慢慢来 阅读(387) 评论(0) 推荐(0)
Pytorch张量Tensor的一些基础操作（适用于Debug）
摘要：判断两个张量相等 用这个式子判断： 0 == (y!= x).sum() 为True则相等，False为不等 创建对角矩阵 torch.block_diag https://pytorch.org/docs/1.10/generated/torch.block_diag.html#torch.blo 阅读全文
posted @ 2022-11-18 15:19 阿莱慢慢来 阅读(99) 评论(0) 推荐(0)
深度学习常用linux操作
摘要：后台运行 nohup command & 屏幕输出记录到日志文件 nohup command > myout.log 2>&1 & 进程 查看自己的进程 ps -u 阅读全文
posted @ 2022-11-18 15:18 阿莱慢慢来 阅读(24) 评论(0) 推荐(0)
从机器学习到图神经网络，inductive和transductive的区别
摘要：[toc] # 机器学习 ## 归纳式学习（inductive learning） * 测试集的数据完全不会被见过 * 训练输入： * 半监督学习：输入训练集特征，未标记的特征和训练集的标签 * 监督学习： 输入训练集，训练集的特征 * 测试集添加数据后，不需要重新训练 * 计算量更少 ## 转导式 阅读全文
posted @ 2022-11-18 15:14 阿莱慢慢来 阅读(1264) 评论(0) 推荐(0)
Attention机制的理解
摘要：查询，键和值 注意力机制通过注意力汇聚将查询（自主性提示）和键（非自主性提示）结合在一起，实现对值（感官输入）的选择倾向。 ——《动手学习深度学习》 训练的目标是对于新的$x$，能够根据$f$来预测出更准确的$y$。具体来说，训练阶段的每一个输入数据$x_i$都对应输出数据$y_i$，因此，输入数据 阅读全文
posted @ 2022-11-18 15:11 阿莱慢慢来 阅读(171) 评论(0) 推荐(0)
numpy统计常用数据函数总结
摘要：平均数 np.mean() 中位数 np.median() 四分位数 np.quantile(a,0.75) np.quantile(a,0.25) 自定义的分位数值 使用percentile函数，可以设置自定义的比例，以下是一个例子。 >>> import numpy as np >>> a = 阅读全文
posted @ 2022-11-18 15:05 阿莱慢慢来 阅读(67) 评论(0) 推荐(0)