代码改变世界

用python wxpy管理微信公众号,并利用微信获取自己的开源数据。

2019-07-30 11:03 by 冻雨冷雾, 1931 阅读, 0 推荐, 收藏, 编辑
摘要:之前了解到itchat 乃至于 wxpy时 是利用tuling聊天机器人的接口。调用接口并保存双方的问答结果可以作为自己的问答词库的一个数据库累计。这些数据可以用于自己训练。 而最近希望获取一些语音资源,用于卷积神经网络的训练。。 首先wxpy是itchat的升级版,通过wxpy bot.core即 阅读全文

利用python自动发邮件

2019-07-26 10:52 by 冻雨冷雾, 374 阅读, 0 推荐, 收藏, 编辑
摘要:工作中有时长时间运行代码时需要监控进度,或者需要定期发送固定格式邮件时,可以使用下面定义的邮件函数。 该函数调用了outlook和qqmail的接口,只需要放置到python的环境目录中即可 import 并使用。这里建议所有自己定义的函数放置在python3的文件下 而非site-package文 阅读全文

相似性算法研究

2019-07-26 10:39 by 冻雨冷雾, 452 阅读, 0 推荐, 收藏, 编辑
摘要:业务中需要分析一批离散的统计数据相似性,用于将同种类别的数据识别出来。 整理的资料是三大统计学的相似性计算方法,与数据之间距离的度量。 首先简单介绍一下数据的使用: from scipy.stats import normaltest 先用该函数检测比较数据的正太分布。后根据结果决定使用具体的方法 阅读全文

CNN实战篇-手把手教你利用开源数据进行图像识别(基于keras搭建)

2019-07-03 16:40 by 冻雨冷雾, 5976 阅读, 0 推荐, 收藏, 编辑
摘要:卷积神经网络在开源图集keras框架下的实战 阅读全文

主流NoSQL数据库的分析与选择

2019-07-02 14:54 by 冻雨冷雾, 405 阅读, 0 推荐, 收藏, 编辑
摘要:因为新的数据项目的数据量级较大,因此考虑将mysql替换更高性能的数据库。 1.介绍一下NoSQL(不仅仅是关系型数据库)的不同种类和其擅长的业务 2.选了几种国内比较通用的进行分析 阅读全文

pandas按索引插入对应值的处理方法 - join

2019-05-29 14:14 by 冻雨冷雾, 1851 阅读, 0 推荐, 收藏, 编辑
摘要:pandas的Series按照索引添加对应的列(需要的信息) 阅读全文

pandas处理较大数据量级的方法 - chunk,hdf,pkl

2019-05-28 15:53 by 冻雨冷雾, 5570 阅读, 0 推荐, 收藏, 编辑
摘要:前情提要: 工作原因需要处理一批约30G左右的CSV数据,数据量级不需要hadoop的使用,同时由于办公的本本内存较低的缘故,需要解读取数据时内存不足的原因。 操作流程: 方法与方式:首先是读取数据,常见的csv格式读取时一次性全部读取进来, 面对数据量较大(本次3亿条实车数据)时,需要 分批 并且 阅读全文

python可视化动态图表: 关于pyecharts的sankey桑基图绘制

2019-05-27 17:07 by 冻雨冷雾, 17031 阅读, 0 推荐, 收藏, 编辑
摘要:最近因工作原因,需要处理一些数据,顺便学习一下动态图表的绘制。本质是使具有源头的流动信息能够准确找到其上下级关系和流向。 数据来源是csv文件 导入成为dataframe之后,列为其车辆的各部件供应商公司名称或其自身的属性。 导入后经过处理期望是看到整个工业的供应链和市场份额. 结果的部分截图: 数 阅读全文

Matlab的mat格式数据转化至python数据格式

2019-05-27 16:46 by 冻雨冷雾, 5885 阅读, 0 推荐, 收藏, 编辑
摘要:因工作原因,一些获取的行业数据以已知的结构体存储在.mat文件中, 现需要将其存储在数据库中并且能够灵活调用至python dataframe里进行操作 原数据的一个例子如下 目标如上: 然后是转化代码: import scipy.io data = scipy.io.loadmat(r'C:\Us 阅读全文

python将excel数据写入数据库,或从库中读取出来

2019-05-27 16:29 by 冻雨冷雾, 2831 阅读, 0 推荐, 收藏, 编辑
摘要:首先介绍一下SQL数据库的一些基本操作: 1创建 2删除 3写入 4更新(修改) 5条件选择 有了以上基本操作,就可以建立并存储一个简单的数据库了。 放出python调用的代码: 此处是调用dos 操作数据库 不如下面的简单 # -*- coding: utf-8 -*- """ Created o 阅读全文