摘要: 作业① ·要求:熟练掌握 scrapy 中Item、Pipeline 数据的序列化输出方法,使用Scrapy+Xpath+MySQL数据库存储技术路线爬取当当网站图书数据 ·候选网站:http://www.dangdang.com/ ·关键词:学生自由选择 | id | title | author 阅读全文
posted @ 2021-11-23 20:58 鸿影虹影 阅读(3) 评论(0) 推荐(0) 编辑
摘要: 作业1 ·要求:指定一个网站,爬取这个网站中的所有的所有图片,例如中国气象网。分别使用单线程和多线程的方式爬取。(限定爬取图片数量为学号后3位) ·输出信息:将下载的Url信息在控制台输出,并将下载的图片存储在images子文件中,并给出截图。 {一}单线程爬取 完整代码 (1)解析网页,找到对应翻 阅读全文
posted @ 2021-11-09 19:45 鸿影虹影 阅读(9) 评论(0) 推荐(0) 编辑
摘要: 作业①: ·要求:在中国气象网(http://www.weather.com.cn)给定城市集的7日天气预报,并保存在数据库。 ·输出信息: | 序号 | 地区 |日期 |天气信息 |温度 | | | | |- |- | | 1 | 北京 | 7(今天) | 晴间多云,北部山区有阵雨或雷阵雨转晴转多 阅读全文
posted @ 2021-10-26 20:11 鸿影虹影 阅读(3) 评论(0) 推荐(0) 编辑
摘要: 作业①: 1)大学软工排名信息的爬取 – 要求:用urllib和re库方法定向爬取给定网址https://www.shanghairanking.cn/rankings/bcsr/2020/0812的数据。 2020排名 全部层次 学校名称 总分 1 前2% 清华大学 1661.0 部分代码展示: 阅读全文
posted @ 2021-10-12 18:00 鸿影虹影 阅读(16) 评论(0) 推荐(0) 编辑