摘要: 你好 由于你是游客 无法查看本文 请你登录再进 谢谢合作 当你在爬某些网站的时候 需要你登录才可以获取数据 咋整? 莫慌 小帅b把这几招传授给你 让你以后从容应对 那么 接下来就是 学习 python 的正确姿势 登录的常见方法无非是这两种 1、让你输入帐号和密码登录 2、让你输入帐号密码+验证码登 阅读全文
posted @ 2019-05-08 15:39 学习python的正确姿势 阅读(6729) 评论(0) 推荐(2) 编辑
摘要: 当你在爬取某些网站的时候 对于你的一些频繁请求 对方会阻碍你 常见的方式就是使用验证码 验证码的主要功能 就是区分你是人还是鬼(机器人) 人 想法设法的搞一些手段来对付技术 而 技术又能对付人们的想法 一来一去 就有了各种各样的变态验证码 也有了各种各样的应对方式 常见的验证码有这么几种 图像验证 阅读全文
posted @ 2019-05-08 15:39 学习python的正确姿势 阅读(1382) 评论(0) 推荐(0) 编辑
摘要: 我们在之前的文章谈到了高效爬虫 在 python 中 多线程下的 GIL 锁会让多线程显得有点鸡肋 特别是在 CPU 密集型的代码下 多线程被 GIL 锁搞得效率不高 特别是对于多核的 CPU 来说 如果想要充分利用 CPU 还是用多进程吧 这样我们就可以做到并行爬取 提高了爬取的效率 那么,怎么玩 阅读全文
posted @ 2019-05-08 15:38 学习python的正确姿势 阅读(481) 评论(0) 推荐(0) 编辑
摘要: 这两天 有小伙伴问小帅b 为什么我爬取 xx 网站的时候 不返回给我数据 而且还甩一句话给我 “系统检测到您频繁访问,请稍后再来” 小帅b看了一下他的代码 for i in range(1,10000): requests.get(url) 瞬间震惊了 这就感觉 被连续 fxxk 了 1w 次 你说 阅读全文
posted @ 2019-05-08 15:38 学习python的正确姿势 阅读(1222) 评论(0) 推荐(0) 编辑
摘要: 我们上次说了伪装头部 ↓ python爬虫17 | 听说你又被封 ip 了,你要学会伪装好自己,这次说说伪装你的头部 让自己的 python 爬虫假装是浏览器 小帅b主要是想让你知道 在爬取网站的时候 要多的站在对方的角度想问题 其实 这和泡妞差不多 你要多站在妹纸的角度思考 她的兴趣是什么 她喜欢 阅读全文
posted @ 2019-05-08 15:38 学习python的正确姿势 阅读(5415) 评论(0) 推荐(0) 编辑
摘要: 有时候 只是在人群中多看了一眼 就再也没办法忘掉那些容颜 小帅b在普通的一天 上着普通的网 不小心打开了一个不太普通的网站 https://www.mzitu.com/ 从此进入了不普通的一天 看着不普通的妹纸 动起了不普通的心思 恩 这么多妹纸 不爬取下来 可惜了 那么 接下来就是 学习 pyth 阅读全文
posted @ 2019-05-08 15:36 学习python的正确姿势 阅读(2771) 评论(1) 推荐(1) 编辑
摘要: 快 快了 啊 嘿 小老弟 想啥呢 今天这篇爬虫教程的主题就是一个字 快 想要做到秒爬 就需要知道 什么是多进程 什么是多线程 什么是协程(微线程) 你先去沏杯茶 坐下来 小帅b这就好好给你说道说道 关于线程这玩意 沏好茶了吗 那么 接下来就是 学习 python 的正确姿势 首先我们来了解什么是进程 阅读全文
posted @ 2019-05-08 15:35 学习python的正确姿势 阅读(3791) 评论(0) 推荐(1) 编辑
摘要: 你知道吗? 在我的心里 你是多么的重要 就像 恩 请允许我来一段 freestyle 你们准备好了妹油 你看 这个碗 它又大又圆 就像 这条面 它又长又宽 你们 在这里 看文章 觉得 很开心 就像 我在这里 给你们 写文章 觉得很开心 skr~~ 不好意思 走错片场了 ok.. 接下来,就是 学习 阅读全文
posted @ 2019-05-08 15:35 学习python的正确姿势 阅读(380) 评论(0) 推荐(0) 编辑
摘要: 在上一篇中 python爬虫10 | 网站维护人员:真的求求你们了,不要再来爬取了!! 小帅b给大家透露了我们这篇要说的牛逼利器 selenium + phantomjs 如果你看了 python爬虫09 | 上来,自己动 !这就是 selenium 的牛逼之处 那么你应该知道 selenium 是 阅读全文
posted @ 2019-05-08 15:34 学习python的正确姿势 阅读(665) 评论(0) 推荐(0) 编辑
摘要: 在前面我们玩了好多静态的 HTML 想必你应该知道怎么去爬这些数据了 但还有一些常见的动态数据 比如 商品的评论数据 实时的直播弹幕 岛国动作片的评分 等等 这些数据是会经常发生改变的 很多网站就会用到 Json 来传输这些数据 因为 Json 非常轻量 用 key-value 的形式封装成对象 就 阅读全文
posted @ 2019-05-08 15:34 学习python的正确姿势 阅读(472) 评论(0) 推荐(0) 编辑