爬虫: 基础介绍

前戏：
    1.你是否在夜深人静的时候，想看一些会让你更睡不着的图片却苦于没有资源...
    2.你是否在节假日出行高峰的时候，想快速抢购火车票成功...
    3.你是否在网上购物的时候，想快速且精准的定位到口碑质量最好的商品...

什么是爬虫：
    - 通过编写程序，模拟浏览器上网，然后让其去互联网上抓取数据的过程。


爬虫的价值：
    - 实际应用
    - 就业

爬虫究竟是合法还是违法的？
- 在法律中是不被禁止
- 具有违法风险
- 善意爬虫  恶意爬虫

爬虫带来的风险可以体现在如下2方面：
    - 爬虫干扰了被访问网站的正常运营
    - 爬虫抓取了收到法律保护的特定类型的数据或信息

如何在使用编写爬虫的过程中避免进入局子的厄运呢？
    - 时常的优化自己的程序，避免干扰被访问网站的正常运行
    - 在使用，传播爬取到的数据时，审查抓取到的内容，如果发现了涉及到用户隐私
    商业机密等敏感内容需要及时停止爬取或传播


爬虫在使用场景中的分类
    - 通用爬虫：
        抓取系统重要组成部分。抓取的是一整张页面数据。
    - 聚焦爬虫：
        是建立在通用爬虫的基础之上。抓取的是页面中特定的局部内容。
    - 增量式爬虫：
        检测网站中数据更新的情况。只会抓取网站中最新更新出来的数据。

爬虫的矛与盾


反爬机制
    门户网站，可以通过制定相应的策略或者技术手段，防止爬虫程序进行网站数据的爬取。

反反爬策略
    爬虫程序可以通过制定相关的策略或者技术手段，破解门户网站中具备的反爬机制，从而可以获取门户网站中相关的数据。


robots.txt协议：
    君子协议。规定了网站中哪些数据可以被爬虫爬取哪些数据不可以被爬取。
　　查看淘宝的robots.txt协议：https://www.taobao.com/robots.txt


http协议
    - 概念：就是服务器和客户端进行数据交互的一种形式。
常用请求头信息
    - User-Agent：请求载体的身份标识，例如用google访问时，请求载体就是google浏览器。
    - Connection：请求完毕后，是断开连接还是保持连接：close/keep alive

常用响应头信息
    - Content-Type：服务器响应回客户端的数据类型，如字符串，json等

https协议：
    - 安全的超文本传输协议，安全涉及到数据加密。

加密方式
    - 对称秘钥加密：客户端将要发送给服务端的数据加密，并将密文和秘钥发送给服务端。
    - 非对称秘钥加密： 服务器端设定加密方式（公钥），将其发送给客户端，客户端拿到加密方式后，用其对数据进行加密，然后将密文发送给服务器端，服务器端解密（私钥）。弊端：效率低，存在安全隐患（拦截到公钥，进行篡改）。
    - 证书秘钥加密：https采用这种方式进行加密。服务器端制定一种加密方式（公钥），先把公钥提交到证书认证机构，证书认证机构对公钥进行审核并签名，并将其封装到证书中，将其发送给客户端。客户端拿到公钥后对数据进行加密，将密文发送给服务器端。服务器端对数据进行解密。