会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
小橙子11
博客园
首页
新随笔
联系
订阅
管理
2023年3月2日
python3和scrapy使用亿牛云隧道代理问题以及代码
摘要: 一、前言近期,我参与了一个需要爬取国家食品药品监督局数据的项目,但该网站存在IP屏蔽机制。因此,我需要在Scrapy框架中实现自动IP切换,才能完成任务。然而,尽管我使用了第三方库scrapy-proxys和代理API接口,但测试并不成功。爬取药监局数据是一项不容易完成的任务。这是因为该网站采用了多
阅读全文
posted @ 2023-03-02 17:28 小橙子11
阅读(179)
评论(0)
推荐(0)