随笔分类 - 机器学习与深度学习
摘要:比如我们已知函数y=f(x),那我们想知道f(x)的最大值,x=argmax{f(x)} 我们使用高斯过程GP作为代理函数去代理f(x),根据一些已有的一些初始(xi,yi)(上图曲线上的小黑点)去fit一个GP(上图紫色区域画出来fit好的GP) 根据已有的高斯过程,随机采样m个点(上图的x1,x
阅读全文
摘要:爱因斯坦求和(einsum)和克罗内克记号(Kronecker delta) 参考文章1 参考文章2
阅读全文
摘要:softNMS ! import numpy as np boxes = np.array([[100, 100, 210, 210, 0.72], [250, 250, 420, 420, 0.8], [220, 220, 320, 330, 0.92], [100, 100, 210, 210,
阅读全文
摘要:GAN GAN 的原理和推导 mode collapse问题 DCGAN Conditional GAN Conditional GAN WGAN WGAN 原理 WGAN 的来龙去脉 WGAN-GP InfoGAN infoGAN 解读 infoGAN 公式推导 infoGAN 论文解读 变分推断
阅读全文
摘要:1.首先官网上下载libtorch,放到当前项目下 2.将pytorch训练好的模型使用torch.jit.trace导出为.pt格式 torchscript加载.pt模型 CMakeLists.txt编译 运行
阅读全文
摘要:参考文章 tensorflow+ssd_mobilenet实现目标检测的训练 TensorFlow基于ssd_mobilenet模型实现目标检测 使用TransferLearning实现环视图像的角点检测——Tensorflow+MobileNetv2_SSD MobileNet SSD V2模型的
阅读全文
摘要:实现细节; 1.embedding 层 2.positional encoding层:添加位置信息 3,MultiHeadAttention层:encoder的self attention 4,sublayerConnection层:add&norm,使用layerNorm, 5,FeedForwa
阅读全文
摘要:使用tensorflow model库里的cifar10 多gpu训练时,最后测试发现时间并没有减少,反而更慢 参考以下两个链接 https://github.com/keras-team/keras/issues/9204 https://medium.com/@c_61011/why-multi
阅读全文
摘要:一些推导的笔记 上面分解成无穷维,大多数时候都不是的吧。。。 这里的d有限维,应该是指相对小于上面的分解的维度的某个数 参考资料 参考资料,上面是从最小化损失的角度,利用拉格朗日对偶的优化方法求解 pca的另一种最大化方差的解释 kl变换和pca区别
阅读全文
摘要:tensorflow python创建模型,训练模型,得到.pb模型文件后,用c++ api进行预测 也可以用opencv c++库读取图片Mat复制到Tensor中 也可用指针引用的方式转换
阅读全文
摘要:参考这篇文章安装,依次安装bazel,protocbuf,eigen3,然后下载tensorflow源码,编译c++ api,将编译结果拷贝到搜索路径 最后测试案例时遇到一些问题 (1)fatal error: absl/strings/string_view.h 解决方案,git clone ht
阅读全文
摘要:见下面 wiki:https://en.wikipedia.org/wiki/Numerical_stability
阅读全文
摘要:TensorArray可以看做是具有动态size功能的Tensor数组。通常都是跟while_loop或map_fn结合使用 tips:[n.name for n in tf.get_default_graph().as_graph_def().node]获取图中所有节点
阅读全文
摘要:python3.6,tensorflow1.11 测试代码: tensorflow在eager模式下进行测试,方便调试,查看中间结果 tf.nn.dynamic_rnn在tensorflow/python/ops/rnn.py中定义,进入其中调试 最后调用_dynamic_rnn_loop 可以看到
阅读全文
摘要:以简单英文问答问题为例测试tensorflow1.4 tf.contrib.legacy_seq2seq中seq2seq文件的几个seq2seq接口 github:https://github.com/buyizhiyou/tf_seq2seq 测试 basic_rnn_seq2seq 的使用 测试
阅读全文
摘要:Darknet19( (conv1s): Sequential( (0): Sequential( (0): Conv2d_BatchNorm( (conv): Conv2d(3, 32, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False) (bn): BatchNo...
阅读全文
摘要:RCNN-→SPP Net-→ Fast RCNN-→ Faster RCNN-→ YOLO-→ SSD 思路是:a,生成候选框 b,CNN提取特征 c,分类网络 d,回归,位置精修(refine) RCNN: 论文: https://arxiv.org/pdf/1311.2524.pdf 源码:
阅读全文