随笔分类 -  机器学习实战

理论，编程
论场景在研发中的重要性
摘要：随着中国改革开放程度的加深，互联网行业也逐渐出现变革，典型的变化就是由原来的低端重复性造轮子，逐步转向高端，以技术创新为主导。一个有力的证明就是近年来以技术驱动的创业公司越来越多，这在10年前是不可想象的。在人才要求上，对工作经验不再那么看重，而更加重视求职者的学历，专业，背景。 在这样的背景下，一 阅读全文
posted @ 2018-04-17 12:55 佟学强 阅读(1256) 评论(0) 推荐(0)
DNN的BP算法Python简单实现
摘要：BP算法是神经网络的基础，也是最重要的部分。由于误差反向传播的过程中，可能会出现梯度消失或者爆炸，所以需要调整损失函数。在LSTM中，通过sigmoid来实现三个门来解决记忆问题，用tensorflow实现的过程中，需要进行梯度修剪操作，以防止梯度爆炸。RNN的BPTT算法同样存在着这样的问题，所以 阅读全文
posted @ 2017-10-19 16:18 佟学强 阅读(2842) 评论(0) 推荐(0)
关于nlp的一些探索
摘要：深度学习，知识图谱，nlp学习经历 获取信息来源：英文paper研读，吴恩达公开课，Hiton公开课，北大nlp教材，英文最新学术论文，中科院院士技术博客，知识图谱专家课程自学进修路线：基础理论 专业理论(公开课，讲义，教材，技术博客) 框架原理及使用：sparkMLlib,tensorflow 最 阅读全文
posted @ 2017-10-11 15:38 佟学强 阅读(716) 评论(0) 推荐(0)
nlp语义理解的一点儿看法
摘要：nlp领域里，语义理解仍然是难题！ 给你一篇文章或者一个句子，人们在理解这些句子时，头脑中会进行上下文的搜索和知识联想。通常情况下，人在理解语义时头脑中会搜寻与之相关的知识。知识图谱的创始人人为，构成这个世界的是实体，而不是字符串，这从根本上改变了过去搜索的体系。语义理解其实是基于知识，概念和这些概 阅读全文
posted @ 2017-09-20 16:27 佟学强 阅读(6875) 评论(0) 推荐(1)
LSTM代码
摘要：tensorflow的关于LSTM的代码，经过反复的调试和修改，终于运行成功了，可以把训练过程的结果保存起来，然后预测的时候直接取出来。花了很长时间才把官网上的代码调试成功，里面的坑有很多需要填补，还有源代码，都需要认真解读，关于tensorflow的高级结构，比如队列和多线程，也涉及到了。 阅读全文
posted @ 2017-09-13 17:30 佟学强 阅读(1282) 评论(0) 推荐(0)
原创：语义相似度(理论篇)
摘要：知识图谱与语义相似度的关系 阅读全文
posted @ 2017-08-24 23:11 佟学强 阅读(8807) 评论(0) 推荐(1)
tensorflow学习笔记(三)：实现自编码器
摘要：黄文坚的tensorflow实战一书中的第四章，讲述了tensorflow实现多层感知机。Hiton早年提出过自编码器的非监督学习算法，书中的代码给出了一个隐藏层的神经网络，本人扩展到了多层，改进了代码。实现多层神经网络时，把每层封装成一个NetLayer对象(本质是单向链表)，然后计算隐藏层输出值 阅读全文
posted @ 2017-07-26 10:10 佟学强 阅读(2947) 评论(0) 推荐(0)
原创：维特比算法
摘要：看了宗成庆博士的《统计自然语言处理（中文信息处理）》的第六章，对维特比算法有着非常精辟的讲解。把其中的讲解上传上来，个人感觉比较正统。 今天用Java实现了这个算法，也可以转换为C代码： 测试文件： 输出结果为1,0,0，就是sunny,rainy,rainy。对比了一下，结果没问题，逻辑也没问题。 阅读全文
posted @ 2017-04-25 13:10 佟学强 阅读(906) 评论(0) 推荐(0)
tensorflow学习（一）
摘要：今天开始学习tensorflow框架，从极客学院下载了官方中文教程(15年翻译的），第一天开始学习第一章ng基本流程和原理，作为前奏。然后写了代码，验证一下，准确率确实非常高，非常好用。把代码上传，作为以后备用。 1 import tensorflow as tf 2 import numpy as 阅读全文
posted @ 2017-04-14 11:51 佟学强 阅读(473) 评论(4) 推荐(0)
原创：Kmeans算法实战+改进（java实现）
摘要：kmeans算法的流程： kmeans算法的流程： EM思想很伟大，在处理含有隐式变量的机器学习算法中很有用。聚类算法包括kmeans，高斯混合聚类，快速迭代聚类等等，都离不开EM思想。在了解kmeans算法之前，有必要详细了解一下EM思想。 Kmeans算法属于无监督学习中的一种，相比于监督学习， 阅读全文
posted @ 2016-11-15 20:05 佟学强 阅读(10878) 评论(3) 推荐(1)