随笔分类 -  开发 / python3爬虫

摘要:初步探查 打开网站 http://bang.dangdang.com/books/fivestars/1-1 一共25页,每一页最后面的值会发生改变 我们打算获得 排名 书名 图片地址 作者 推荐指数 五星评分 次数价格 逐步实现 主要思路: 使用 page 变量来实现翻页 我们使用 request 阅读全文
posted @ 2021-08-24 10:29 1ink 阅读(425) 评论(0) 推荐(0)
摘要:常用表达式 字符 描述 \d 代表任意数字,就是阿拉伯数字 0-9 这些玩意。 \D 大写的就是和小写的唱反调,\d 你代表的是任意数字是吧?那么我 \D 就代表不是数字的。 \w 代表字母,数字,下划线。也就是 a-z、A-Z、0-9、_。 \W 跟 \w 唱反调,代表不是字母,不是数字,不是下划 阅读全文
posted @ 2021-08-23 09:12 1ink 阅读(199) 评论(0) 推荐(0)
摘要:requests requests 是在 urllib 的基础上搞出来的,通过它我们可以用更少的代码,模拟浏览器操作,使用比urllib方便 对于不是 python 的内置库 我们需要安装一下,直接使用 pip 安装pip install requests 导入 requests 模块 import 阅读全文
posted @ 2021-08-23 08:53 1ink 阅读(150) 评论(0) 推荐(0)
摘要:网络爬虫是捜索引擎(Baidu、Google、Yahoo)抓取系统的重要组成部分。主要目的是将互联网上的网页下载到本地,形成一个互联网内容的镜像备份。 网络爬虫的基本工作流程如下: 首先选取一部分精心挑选的种子URL; 将这些URL放入待抓取URL队列; 从待抓取URL队列中取出待抓取在URL,解析 阅读全文
posted @ 2021-08-22 12:23 1ink 阅读(795) 评论(0) 推荐(0)