会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
zp513
博客园
首页
新随笔
联系
订阅
管理
1
2
3
4
5
···
9
下一页
2024年1月26日
爬虫-异步抓取一部小说
摘要: 一、利用requests请求同步和aiohttp异步,两个结合来获取小说里的内容 1、先利用cookie和session来实现登录 根据post请求,带入参数来建立会话,并获取session 利用session来进行同步请求获取,每一章节的名称和链接地址 通过上面的图,发现在/html/body/d
阅读全文
posted @ 2024-01-26 21:36 zhang0513
阅读(172)
评论(0)
推荐(0)
2024年1月25日
调试记录-南京洋河股份
摘要: 一、网络背景 现场用的是一台CloudEngine S5731-H24P4XC和一台CloudEngine S5731-H48P4XC来跑分布式 问题1、两台交换机万兆口双芯的线序应该是接反导致两台数据不通,【双芯】 问题2、dir切换盒子视频切不过去,原因两台交换机基本都满载,万兆口带宽不够,采用
阅读全文
posted @ 2024-01-25 20:23 zhang0513
阅读(26)
评论(0)
推荐(0)
2024年1月24日
交换机配置-链路聚合
摘要: 一、链接聚合 链路聚合(Eth-Trunk),是将多个物理接口捆绑为一个逻辑接口,实现增加链路带宽、提高可靠性、提供负载分担的目的。 SW1 [SW1]interface Eth-Trunk 1 [SW1-Eth-Trunk1]mode manual load-balance //选择为手动负载分担
阅读全文
posted @ 2024-01-24 20:19 zhang0513
阅读(1842)
评论(0)
推荐(0)
2024年1月18日
爬虫-协程及语法
摘要: 一、什么是协程 在单线程中,一个线程在运行的过程中,如果遇到一些IO操作的时候,CPU会停止等待,此时线程会处于阻塞状态,为了更好的利用CPU, 当线程阻塞的时候,让线程去做其他的事情,从而提高CPU的利用率,如下面代码 import time def fun(): print("开始打印,然后休息
阅读全文
posted @ 2024-01-18 20:52 zhang0513
阅读(25)
评论(0)
推荐(0)
2024年1月16日
爬虫-多线程抓取图片
摘要: 一、目的 利用多线程的方式爬取图片,地址:其他电脑动态壁纸 - 其他桌面动态壁纸 - 元气壁纸 (cheetahfun.com) 二、分析 F12分析网页结构,图片的地址都在class = "flex flex-wrap justify-between font-normal"标签中的li里面,只需
阅读全文
posted @ 2024-01-16 19:59 zhang0513
阅读(68)
评论(0)
推荐(0)
2024年1月15日
爬虫-多线程和线程池
摘要: 一、多线程 1、了解多线程之前,先了解一下单线程程,顾名思义就是一条流水线;看下面代码 def func(): for i in range(100): print('func',i) if __name__ =='__main__': func() for i in range(100): pri
阅读全文
posted @ 2024-01-15 22:45 zhang0513
阅读(80)
评论(0)
推荐(0)
爬虫-将data:image/jpg; base64,格式数据转化下载为图片
摘要: 一、图片是以Base64的url地址形式存在 在做爬虫的时候,发现图片URL地址是用data:image/jpeg;base64,开头的,如下图所示 部分开头样式如下:1、data:image/jpg; base64,2、data:image/png; base64,3、data:image/web
阅读全文
posted @ 2024-01-15 16:57 zhang0513
阅读(617)
评论(1)
推荐(0)
2024年1月14日
pycharm常用设置
摘要: 一、在使用pycharm的时候有时候会遇到编码问题 pycharm设置模板,每次创建文件都会默认在前面加上utf-8,操作如下 File Encoding中设置编码 二、设置编码
阅读全文
posted @ 2024-01-14 20:38 zhang0513
阅读(24)
评论(0)
推荐(0)
网络爬虫-梨视频下载
摘要: 一、分析 要在地址https://www.pearvideo.com/video_1747820中下载视频,首先要找打视频的源地址,查看源代码未发现有源代码, 在元素中找,视频播放的时候,在<video>标签中找下载链接 注意:视频不播放,是看不到视频源地址的,把视频下载地址单独复制下来如下 src
阅读全文
posted @ 2024-01-14 17:06 zhang0513
阅读(158)
评论(0)
推荐(0)
网络爬虫-处理cookie登录的问题,seesion的用法
摘要: 一、以17k的小说网的登录为例,网址小说_17K小说网|最新小说下载-一起免费看小说 当想要在小说网中看一下书架上的书都有哪些,必须得先登录一个账户才能看到,不同的用户登录看到内容也是不一样的,服务器是如何区分的呢? 这里要引入cookie,不同的用户访问到服务器的时候,除了访问地址外,会带cook
阅读全文
posted @ 2024-01-14 15:22 zhang0513
阅读(39)
评论(0)
推荐(0)
1
2
3
4
5
···
9
下一页
公告