随笔分类 -  Solve Problem

python multiprocessing多进程阻塞导致Linux上大多数子进程在休眠状态
摘要:2020.11.26 在使用multiprocessing.Pool来创建多个进程时,使用apply_async异步调用以提升运算效率,并行运算。但是这个函数的调用需要注意,最好参数不要省略func=和args=,args后面要有一个',',最重要的是,假如子进程的函数有返回值,需要将apply_a 阅读全文

posted @ 2020-11-26 14:27 eggplant_is_me 阅读(1250) 评论(0) 推荐(0)

从Request到Selenium的简单爬虫学习笔记
摘要:selenium是一个用于网站测试的工具,是一个Web自动化工具,测试人员必会的工具。他可以操作浏览器对网页进行模拟人的操作,比如点击,获取文本数据,跳转等等。所以也可以被用来爬虫。 简单的网站爬虫用request就可以实现,但由于反爬虫技术的出现,对于一些网站使用request就需要更多的技巧去爬 阅读全文

posted @ 2020-11-20 11:42 eggplant_is_me 阅读(562) 评论(0) 推荐(0)

Python多进程关于共享变量的坑
摘要:python 多进程使用multiprocess的库,网上有很多代码。但自己使用时有两个关于共享变量的坑。 如果想共享一个复杂点的变量,比如numpy矩阵,是不可以的,Manager自带的共享类型只有list,dict等这样简单的类型,且只能共享一层(不能说list里面加一个numpy矩阵也共享), 阅读全文

posted @ 2020-11-13 16:25 eggplant_is_me 阅读(406) 评论(0) 推荐(0)

PowerShell首次运行bat文件出错问题
摘要:管理员权限打开PowerShell,执行set-executionpolicy remotesigned, 选Y,即可运行bat文件。 阅读全文

posted @ 2020-08-07 12:32 eggplant_is_me 阅读(242) 评论(0) 推荐(0)

使用Gephi-Toolkit绘制动态网络图
摘要:使用Gephi绘制动态网络图 研究课题是关于网络演化的,需要绘制网络动态的演化图,这里主要是边的演化,不同的边有不同的时间。虽然原本的Gephi有动态图的展示,但是Gephi功能太有限了,对图的颜色,节点大小等支持都不够,所以我这里采用Python+Gephi-Toolkit+Premire的方式完 阅读全文

posted @ 2020-08-05 13:34 eggplant_is_me 阅读(1410) 评论(1) 推荐(1)

在天河二号超算上运行python3时遇到的问题
摘要:连接超算运行python3时遇到的问题及解决办法 最近需要在超算上跑python3.6的程序,本来想在我笔记本上的windows系统新建虚拟环境,然后拷贝到超算上就好了,但是在windows系统新建的虚拟环境无法在超算上的linux系统激活,所以我只能用VMware新建一个linux虚拟机,然后在虚 阅读全文

posted @ 2020-05-28 08:20 eggplant_is_me 阅读(2348) 评论(0) 推荐(0)

Python多进程遇到的一个Bug和关于Numpy的一个比较难受的机制
摘要:大学毕业,考上研究生,忙于课题,人生苦短,开始Python。 最近调自己写的Bug时遇到了一些,记录一下,关于多进程与is,我本来单线程中有字符串比较的语句,使用is,但是这个语句到了多线程就不好使了,相同的字符串也判断为不同。后来查到is是指Object是否相同,我把字符串当作参数传给不同的子进程 阅读全文

posted @ 2019-03-14 22:47 eggplant_is_me 阅读(401) 评论(0) 推荐(0)

导航