随笔分类 - Python爬虫
摘要:学习爬虫有一段时间了,今天使用Scrapy框架将校花网的图片爬取到本地。Scrapy爬虫框架相对于使用requests库进行网页的爬取,拥有更高的性能。 Scrapy官方定义:Scrapy是用于抓取网站并提取结构化数据的应用程序框架,可用于广泛的有用应用程序,如数据挖掘,信息处理或历史存档。 建立S
阅读全文
摘要:regular expression / regex / RE 正则表达式是一个特殊的字符序列,它能帮助你方便的检查一个字符串是否与某种模式匹配。Python 自1.5版本起增加了re 模块,它提供 Perl 风格的正则表达式模式。re 模块使 Python 语言拥有全部的正则表达式功能。compi
阅读全文
摘要:BeautifulSoup官方介绍: 官方网站:https://www.crummy.com/software/BeautifulSoup/ BeautifulSoup安装 在"C:\Windows\System32"中找到"cmd.exe",使用管理员身份运行,在命令行中输入:“pip insta
阅读全文
摘要:学习 北京理工大学 嵩天 课程笔记 课程体系结构: 1、Requests框架:自动爬取HTML页面与自动网络请求提交 2、robots.txt:网络爬虫排除标准 3、BeautifulSoup框架:解析HTML页面 4、Re框架:正则框架,提取页面关键信息 5、Scrapy框架:网络爬虫原理介绍,专
阅读全文

浙公网安备 33010602011771号