摘要:2020.11.26 在使用multiprocessing.Pool来创建多个进程时,使用apply_async异步调用以提升运算效率,并行运算。但是这个函数的调用需要注意,最好参数不要省略func=和args=,args后面要有一个',',最重要的是,假如子进程的函数有返回值,需要将apply_a
阅读全文
摘要:selenium是一个用于网站测试的工具,是一个Web自动化工具,测试人员必会的工具。他可以操作浏览器对网页进行模拟人的操作,比如点击,获取文本数据,跳转等等。所以也可以被用来爬虫。 简单的网站爬虫用request就可以实现,但由于反爬虫技术的出现,对于一些网站使用request就需要更多的技巧去爬
阅读全文
摘要:python 多进程使用multiprocess的库,网上有很多代码。但自己使用时有两个关于共享变量的坑。 如果想共享一个复杂点的变量,比如numpy矩阵,是不可以的,Manager自带的共享类型只有list,dict等这样简单的类型,且只能共享一层(不能说list里面加一个numpy矩阵也共享),
阅读全文
摘要:管理员权限打开PowerShell,执行set-executionpolicy remotesigned, 选Y,即可运行bat文件。
阅读全文
摘要:使用Gephi绘制动态网络图 研究课题是关于网络演化的,需要绘制网络动态的演化图,这里主要是边的演化,不同的边有不同的时间。虽然原本的Gephi有动态图的展示,但是Gephi功能太有限了,对图的颜色,节点大小等支持都不够,所以我这里采用Python+Gephi-Toolkit+Premire的方式完
阅读全文
摘要:连接超算运行python3时遇到的问题及解决办法 最近需要在超算上跑python3.6的程序,本来想在我笔记本上的windows系统新建虚拟环境,然后拷贝到超算上就好了,但是在windows系统新建的虚拟环境无法在超算上的linux系统激活,所以我只能用VMware新建一个linux虚拟机,然后在虚
阅读全文
摘要:大学毕业,考上研究生,忙于课题,人生苦短,开始Python。 最近调自己写的Bug时遇到了一些,记录一下,关于多进程与is,我本来单线程中有字符串比较的语句,使用is,但是这个语句到了多线程就不好使了,相同的字符串也判断为不同。后来查到is是指Object是否相同,我把字符串当作参数传给不同的子进程
阅读全文