会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
爱斯特拉冈
博客园
首页
新随笔
联系
订阅
管理
2020年2月28日
python multiprocessing 耗内存问题
摘要: multiprocessing在每创建一个进程时,会将主进程的内存空间原封不动的复制一份到子进程,这样一来内存消耗很容易就翻几倍,导致程序无法运行。 究其原因,是启动进程时采用了os.fork(),使子进程继承父进程全部资源 那么如何解决呢? 1. 最有效的方法:创建完进程后,再加载大内存变量 im
阅读全文
posted @ 2020-02-28 16:26 爱斯特拉冈
阅读(4633)
评论(0)
推荐(0)
2020年2月12日
sqlalchemy_mptt一次调优
摘要: 问题背景: 我用sqlalchemy_mptt构建了一个多级分类项目,数据库用了sqlite。随着数据条数越来越多,写入速度逐渐变慢,一棵树的插入甚至需要1分钟,远远不能满足需求 分析思路: 1. 批量插入 代码中使用的是 session.add(node) session.commit() 我首先
阅读全文
posted @ 2020-02-12 10:47 爱斯特拉冈
阅读(534)
评论(0)
推荐(0)
2019年5月5日
url编码--url中含有空格问题
摘要: 开发web服务中,发现当url中含有空格时,会报 400 error: bad request sytanx,经分析,url中含有特殊字符时,服务端可能无法识别。如+,空格,/,?,%,#,&,=等。该如何破呢? 应当使用字符转义,将特殊字符进行编码表示。编码格式是:% + 对应字符的ascii码。
阅读全文
posted @ 2019-05-05 16:06 爱斯特拉冈
阅读(5467)
评论(0)
推荐(0)
2019年4月2日
shell-快速抽样
摘要: 有时我们需要对文件进行抽样,这时候只需要一个shell命令就可以抽取固定行数的样本:shuf shuf -n $m $file 参数有2: -n: 抽样行数 -r: 是否重复
阅读全文
posted @ 2019-04-02 14:28 爱斯特拉冈
阅读(576)
评论(0)
推荐(0)
2018年12月5日
scala-匹配序列和元组
摘要: scala的模式匹配极其强大,其中有一种用法是用case语句匹配序列和元组。 放码过来: 其中,_表示一个元素,_*表示0个或多个元素 List[_]这种写法可以匹配类型模式,而 @ List(1, _*)可以匹配一个变量绑定的模式
阅读全文
posted @ 2018-12-05 19:48 爱斯特拉冈
阅读(571)
评论(0)
推荐(0)
2018年12月4日
[tensorflow] tf.gather使用方法
摘要: tf.gather:用一个一维的索引数组,将张量中对应索引的向量提取出来
阅读全文
posted @ 2018-12-04 11:25 爱斯特拉冈
阅读(30122)
评论(0)
推荐(3)
2018年11月30日
maven-设置aliyun远程库
摘要: maven默认的远程库下载起来非常慢,习惯改成aliyun的库。 一、修改maven配置 打开maven配置文件setting.xml,改mirror 二、修改项目pom 只针对单个项目的化,修改pom.xml即可
阅读全文
posted @ 2018-11-30 15:48 爱斯特拉冈
阅读(769)
评论(0)
推荐(0)
2018年11月15日
[hive]case 语句中字符串匹配
摘要: 当使用case when时,有时会需要对某个字段做子串匹配。如果是在where条件中,我们会直接使用 like '%xx%'来匹配,但case when语句不行 这时需要使用instr函数 examples:
阅读全文
posted @ 2018-11-15 16:57 爱斯特拉冈
阅读(5118)
评论(0)
推荐(1)
2018年11月9日
shell-删除指定时间前的文件
摘要: 需要配合find和rm两个命令完成 显示20分钟前的文件: 删除20分钟前的文件: 具体操作需要掌握find命令的各种参数 https://www.cnblogs.com/wanqieddy/archive/2011/06/09/2076785.html
阅读全文
posted @ 2018-11-09 14:59 爱斯特拉冈
阅读(3094)
评论(0)
推荐(0)
tensorflow expand_dims和squeeze
摘要: 有时我们会碰到升维或降维的需求,比如现在有一个图像样本,形状是 [height, width, channels],我们需要把它输入到已经训练好的模型中做分类,而模型定义的输入变量是一个batch,即形状为 [batch_size, height, width, channels],这时就需要升维了
阅读全文
posted @ 2018-11-09 14:57 爱斯特拉冈
阅读(2464)
评论(0)
推荐(0)
下一页
公告