scrapy模拟登录2018新版知乎

　　由于2018知乎改版，增加了几个登录所需要的post_data，让我这个初出茅庐的小白头疼了几天，经过一番search（github和各种大佬的博客），最终成功的模拟登录的2018新版知乎。

方法如下：

1.谷歌浏览器，打开知乎登录页面，F12打开调试，F5刷新，选中Network，输入账号，错误的密码（正确的密码登录成功直接跳到主页了就无法分析登录的请求了），观察登录的过程中提交了哪些请求

　　主要就是上图中4个请求

（1）第一个是一个GET请求，查看他的response是一个json格式的数据，show_captcha为true表示需要验证码，false为不需要

（2）第二个是一个PUT请求，这次请求得到了验证码的base64码，解码后可得到一张带有字母的图片验证码

（3）第三个是一个POST请求，表示服务器的验证结果是否正确，如果为true，表示验证成功，可以进行最后一个登陆请求了

 

（4）最后一个为登陆请求（POST），就是登陆请求了，新版知乎的登录post数据变成了Request Payload，比以前复杂了许多

发送请求的时候带上这些数据就可以啦。其中signature和timestamp较为复杂，signature是通过js加密过的（通过ctrl+alt+F搜索signature），可用python模拟js加密过程获得signature的值，timestamp为13位的时间戳。client_id和request header中的authorization后面部分是一样的。

2.下面附上整体代码：

# -*- coding: utf-8 -*-
__author__ = 'Mark'
__date__ = '2018/4/15 10:18'

import hmac
import json
import scrapy
import time
import base64
from hashlib import sha1


class ZhihuLoginSpider(scrapy.Spider):
    name = 'zhihu03'
    allowed_domains = ['www.zhihu.com']
    start_urls = ['http://www.zhihu.com/']
    agent = 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36'
    # agent = 'Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1453.94 Safari/537.36'
    headers = {
        'Connection': 'keep-alive',
        'Host': 'www.zhihu.com',
        'Referer': 'https://www.zhihu.com/signup?next=%2F',
        'User-Agent': agent,
        'authorization': 'oauth c3cef7c66a1843f8b3a9e6a1e3160e20'
    }
    grant_type = 'password'
    client_id = 'c3cef7c66a1843f8b3a9e6a1e3160e20'
    source = 'com.zhihu.web'
    timestamp = str(int(time.time() * 1000))
    timestamp2 = str(time.time() * 1000)
    print(timestamp2)

    def get_signature(self, grant_type, client_id, source, timestamp):
        """处理签名"""
        hm = hmac.new(b'd1b964811afb40118a12068ff74a12f4', None, sha1)
        hm.update(str.encode(grant_type))
        hm.update(str.encode(client_id))
        hm.update(str.encode(source))
        hm.update(str.encode(timestamp))
        return str(hm.hexdigest())

    def parse(self, response):
        print(response.body.decode("utf-8"))

    def start_requests(self):
        yield scrapy.Request('https://www.zhihu.com/api/v3/oauth/captcha?lang=en',
                             headers=self.headers, callback=self.is_need_capture)

    def is_need_capture(self, response):
        print(response.text)
        need_cap = json.loads(response.body)['show_captcha']
        print(need_cap)

        if need_cap:
            print('需要验证码')
            yield scrapy.Request(
                url='https://www.zhihu.com/api/v3/oauth/captcha?lang=en',
                headers=self.headers,
                callback=self.capture,
                method='PUT'
            )
        else:
            print('不需要验证码')
            post_url = 'https://www.zhihu.com/api/v3/oauth/sign_in'
            post_data = {
                "client_id": self.client_id,
                "username": "***********",  # 输入知乎用户名
                "password": "***********",  # 输入知乎密码
                "grant_type": self.grant_type,
                "source": self.source,
                "timestamp": self.timestamp,
                "signature": self.get_signature(self.grant_type, self.client_id, self.source, self.timestamp),  # 获取签名
                "lang": "en",
                "ref_source": "homepage",
                "captcha": '',
                "utm_source": "baidu"
            }
            yield scrapy.FormRequest(
                url=post_url,
                formdata=post_data,
                headers=self.headers,
                callback=self.check_login
            )
        # yield scrapy.Request('https://www.zhihu.com/captcha.gif?r=%d&type=login' % (time.time() * 1000),
        #                      headers=self.headers, callback=self.capture, meta={"resp": response})
        # yield scrapy.Request('https://www.zhihu.com/api/v3/oauth/captcha?lang=en',
        #                      headers=self.headers, callback=self.capture, meta={"resp": response},dont_filter=True)

    def capture(self, response):
        # print(response.body)
        try:
            img = json.loads(response.body)['img_base64']
        except ValueError:
            print('获取img_base64的值失败！')
        else:
            img = img.encode('utf8')
            img_data = base64.b64decode(img)

            with open('zhihu03.gif', 'wb') as f:
                f.write(img_data)
                f.close()
        captcha = input('请输入验证码：')
        post_data = {
            'input_text': captcha
        }
        yield scrapy.FormRequest(
            url='https://www.zhihu.com/api/v3/oauth/captcha?lang=en',
            formdata=post_data,
            callback=self.captcha_login,
            headers=self.headers
        )

    def captcha_login(self, response):
        try:
            cap_result = json.loads(response.body)['success']
            print(cap_result)
        except ValueError:
            print('关于验证码的POST请求响应失败!')
        else:
            if cap_result:
                print('验证成功!')
        post_url = 'https://www.zhihu.com/api/v3/oauth/sign_in'
        post_data = {
            "client_id": self.client_id,
            "username": "***********",  # 输入知乎用户名
            "password": "***********",  # 输入知乎密码
            "grant_type": self.grant_type,
            "source": self.source,
            "timestamp": self.timestamp,
            "signature": self.get_signature(self.grant_type, self.client_id, self.source, self.timestamp),  # 获取签名
            "lang": "en",
            "ref_source": "homepage",
            "captcha": '',
            "utm_source": ""
        }
        headers = self.headers
        headers.update({
            'Origin': 'https://www.zhihu.com',
            'Pragma': 'no - cache',
            'Cache-Control': 'no - cache'
        })
        yield scrapy.FormRequest(
            url=post_url,
            formdata=post_data,
            headers=headers,
            callback=self.check_login
        )

    def check_login(self, response):
        # 验证是否登录成功
        text_json = json.loads(response.text)
        print(text_json)
        yield scrapy.Request('https://www.zhihu.com/inbox', headers=self.headers)

3.经过多番挣扎，此次模拟登录新版知乎终于成功，给自己上了一课，还有好多好多需要学习，一起加油吧！

注：

最后调试过程中出现的问题：

（1）验证码票据问题：setting.py文件，设置

COOKIES_ENABLED = True

（2）输入验证码最后检查登录是否成功浏览器时出现500错误，本以为是user-agent的问题，各种设置后发现还是没用，最后经调试发现是自己的timestamp值提交错了

应该先取整然后再转成字符串，写代码一定要仔细仔细仔细啊！！！我是真的皮。。。

参考链接：

 https://zhuanlan.zhihu.com/p/34073256

 http://www.bubuko.com/infodetail-2485207.html

 https://github.com/zkqiang/Zhihu-Login/blob/master/zhihu_login.py

 https://github.com/superdicdi/zhihu_login/blob/master/ZhiHu/spiders/zhihu_login.py