随笔分类 -  爬虫

摘要:一 简介 MongoDB是一款强大、灵活、且易于扩展的通用型数据库 1.易用性 MongoDB是一个面向文档(document-oriented)的数据库,而不是关系型数据库。 不采用关系型主要是为了获得更好得扩展性。当然还有一些其他好处,与关系数据库相比,面向文档的数据库不再有“行“(row)的概 阅读全文
posted @ 2019-12-02 15:09 瓜落桥下塘 阅读(258) 评论(0) 推荐(0)
摘要:一.介绍 selenium最初是一个自动化测试工具,而爬虫中使用它主要是为了解决requests无法直接执行JavaScript代码的问题 selenium本质是通过驱动浏览器,完全模拟浏览器的操作,比如跳转、输入、点击、下拉等,来拿到网页渲染之后的结果,可支持多种浏览器 from selenium 阅读全文
posted @ 2019-11-28 00:17 瓜落桥下塘 阅读(229) 评论(0) 推荐(0)
摘要:一.介绍 Beautiful Soup 是一个可以从HTML或XML文件中提取数据的Python库.它能够通过你喜欢的转换器实现惯用的文档导航,查找,修改文档的方式.Beautiful Soup会帮你节省数小时甚至数天的工作时间.你可能在寻找 Beautiful Soup3 的文档,Beautifu 阅读全文
posted @ 2019-11-26 23:31 瓜落桥下塘 阅读(151) 评论(0) 推荐(0)
摘要:一.什么是爬虫 #1、什么是上网?爬虫要做的是什么? 我们所谓的上网便是由用户端计算机发送请求给目标计算机,将目标计算机的数据下载到本地的过程。 #1.1 只不过,用户获取网络数据的方式是: 浏览器提交请求->下载网页代码->解析/渲染成页面。 ``` #1.2 而爬虫程序要做的就是: 模拟浏览器发 阅读全文
posted @ 2019-11-25 22:32 瓜落桥下塘 阅读(274) 评论(0) 推荐(0)