08 2017 档案

摘要:突然发现自己被耽误了好多,万恶的社会生活。 阅读全文
posted @ 2017-08-30 10:24 李·狗嗨 阅读(415) 评论(0) 推荐(0)
摘要:Scrapy框架下将爬取数据的item对象放入pipelin中再连接MySQL存入数据库的过程~ 阅读全文
posted @ 2017-08-21 12:58 李·狗嗨 阅读(308) 评论(0) 推荐(0)
摘要:想装phpmayadmin,发现得先装Apache,费了老大劲才终于装上了 阅读全文
posted @ 2017-08-20 21:41 李·狗嗨 阅读(286) 评论(0) 推荐(0)
摘要:由于该网站为旧版网站,应该已没有人维护,所以不用绕过反爬机制,大概能达到 30万条数据/小时 的速度~ 阅读全文
posted @ 2017-08-20 15:10 李·狗嗨 阅读(322) 评论(0) 推荐(0)
摘要:Scrapy抓取数据输出到CSV文件,使其按照items.py中定义的字段的顺序排列输出。 阅读全文
posted @ 2017-08-19 23:20 李·狗嗨 阅读(946) 评论(0) 推荐(0)
摘要:使用http.cookiejar带cookie信息登录爬取下载信息方法,需要使用network抓包获取动态加载信息 阅读全文
posted @ 2017-08-18 21:46 李·狗嗨 阅读(1697) 评论(0) 推荐(0)
摘要:根据爬取的豆瓣《杀破狼》影评制作简单词云,还有许多地方仍可改进,增强视图效果~ 加油吧 阅读全文
posted @ 2017-08-18 10:30 李·狗嗨 阅读(299) 评论(0) 推荐(0)
摘要:socket加threading模块即可用Python制作一个简单聊天室,可以让你抱着DOS玩一下午~ 阅读全文
posted @ 2017-08-18 10:16 李·狗嗨 阅读(419) 评论(1) 推荐(0)
摘要:单线程运行速度相对较慢时,我们可以使用threading模块将其变为多线程并发以节约时间~ 阅读全文
posted @ 2017-08-17 14:35 李·狗嗨 阅读(232) 评论(0) 推荐(0)
摘要:Scrapy采集数据时为每个请求随机分配user-agent,故记录下常用的User-Agent-List ~ 阅读全文
posted @ 2017-08-17 13:55 李·狗嗨 阅读(361) 评论(0) 推荐(0)
摘要:相信能帮助到好多有MySQLl创建视图需求的朋友~ qiuqiuqiu~ 阅读全文
posted @ 2017-08-16 23:11 李·狗嗨 阅读(1707) 评论(0) 推荐(0)
摘要:运用MySQL不是很熟练,花了一些时间整理的MySQL使用手册,方便以后查阅~ 加油吧 阅读全文
posted @ 2017-08-16 22:59 李·狗嗨 阅读(223) 评论(0) 推荐(0)
摘要:看了许多关于分布式爬虫的文章,总结出其核心原理很简单,其实只要不是每天都需要处理千万级别以上的数据抓取工作,多开几个线程就能满足需求了~ 今天被怼到分布式问题真的好气哦 阅读全文
posted @ 2017-08-16 20:44 李·狗嗨 阅读(212) 评论(0) 推荐(0)
摘要:用scrapy去爬取斗图网的图片,爬取过程到没什么大的问题,但分类存放时应为逻辑错误折腾了半天,我好凌乱 TT 阅读全文
posted @ 2017-08-15 17:40 李·狗嗨 阅读(201) 评论(0) 推荐(0)
摘要:学习scrapy记录的指令集 阅读全文
posted @ 2017-08-14 16:10 李·狗嗨 阅读(173) 评论(0) 推荐(0)
摘要:运行这段代码,会自动打开浏览器,然后访问百度。 如果程序执行错误,浏览器没有打开,那就需要下载chromedriwer.exe放在 /usr/bin 目录下。 阅读全文
posted @ 2017-08-14 14:10 李·狗嗨 阅读(164) 评论(0) 推荐(0)
摘要:记录了selenium中chromedriver与chrome版本映射关系表及下载地址,需要的朋友可以看看~ 阅读全文
posted @ 2017-08-14 10:49 李·狗嗨 阅读(138) 评论(0) 推荐(0)
摘要:r.status_code #响应状态码r.raw #返回原始响应体,也就是 urllib 的 response 对象,使用 r.raw.read() 读取r.content #字节方式的响应体,会自动为你解码 gzip 和 deflate 压缩r.text #字符串方式的响应体,会自动根据响应头部 阅读全文
posted @ 2017-08-14 01:24 李·狗嗨 阅读(195) 评论(0) 推荐(0)
摘要:使用pip install scrapy安装时出现Microsoft Visual C++ 14.0 is required的解决方案 阅读全文
posted @ 2017-08-13 14:13 李·狗嗨 阅读(551) 评论(0) 推荐(0)
摘要:学习网络框架web.py需要学会数据库操作,记录下了学习笔记~ 阅读全文
posted @ 2017-08-13 10:38 李·狗嗨 阅读(305) 评论(0) 推荐(0)
摘要:学习网络框架web.py时觉得很好自己需要记录的学习笔记。 阅读全文
posted @ 2017-08-13 10:28 李·狗嗨 阅读(284) 评论(0) 推荐(0)
摘要:学着网上的教程用webpy自己做服务器搭建简易博客,可惜效果不太好,感觉好失败,求有兴趣的各位大大能跑跑代码指点指点我~ (ಥ﹏ಥ) 阅读全文
posted @ 2017-08-11 17:46 李·狗嗨 阅读(254) 评论(0) 推荐(0)
摘要:想要自己自作专属二维码的小伙伴可以看下QRCode这个二维码生成模块,制作出包含自己想保留特定信息的二维码~ piupiupiu~ 阅读全文
posted @ 2017-08-11 15:32 李·狗嗨 阅读(304) 评论(0) 推荐(0)
摘要:Python日期格式化输出参数表示方式记录~ 阅读全文
posted @ 2017-08-11 15:19 李·狗嗨 阅读(224) 评论(0) 推荐(0)
摘要:为了学习web.py开发忙活了一天,饭又忘了吃了~ 该死的python3的编码解码问题,一直Error500害我到处查阅相关信息,把度娘都快折腾废了也找不到合适的解决方案,愣是白白荒废了我4个小时,最后不得不安装并将Python3.6.2版本切换至Python2.7.13版本,结果No problem,服务器完运行,真是要气死我了。。。。。 阅读全文
posted @ 2017-08-11 14:55 李·狗嗨 阅读(451) 评论(0) 推荐(0)
摘要:在操作管理大量数据时数据库知识也是必不可少的哟~ 阅读全文
posted @ 2017-08-09 10:25 李·狗嗨 阅读(2326) 评论(0) 推荐(0)
摘要:朋友需要对大量图片进行统一尺寸的处理,使用python脚本简单省力,么么哒~ 阅读全文
posted @ 2017-08-09 09:58 李·狗嗨 阅读(285) 评论(0) 推荐(0)
摘要:想要完成文字随鼠标移动方向浮现隐藏的效果需要先抓取喜爱的美食图片素材哟~ 阅读全文
posted @ 2017-08-05 10:47 李·狗嗨 阅读(162) 评论(0) 推荐(0)
摘要:一直觉得图片文字随鼠标移入移出方向显隐的效果很酷炫,花了差不多一天功夫,自己捣鼓着学着做,结果发现效果还是蛮好的,开心死我了~ 阅读全文
posted @ 2017-08-05 10:27 李·狗嗨 阅读(293) 评论(0) 推荐(0)
摘要:实例 在所有 <p> 元素上进行 slideUp() 和 slideDown() 之间的切换: $("button").click(function(){$("p").slideToggle();}); 在所有 <p> 元素上进行 slideUp() 和 slideDown() 之间的切换: $(" 阅读全文
posted @ 2017-08-05 00:42 李·狗嗨 阅读(150) 评论(0) 推荐(0)
摘要:<script type="text/javascript"> $(".news_con_col").mouseover(function(){ $(this).find(".bg-hover").show(); }); $(".news_con_col").mouseout(function(){ 阅读全文
posted @ 2017-08-05 00:40 李·狗嗨 阅读(206) 评论(0) 推荐(0)
摘要:实例 当鼠标指针悬停在上面时,改变 <p> 元素的背景颜色: $("p").hover(function(){ $("p").css("background-color","yellow");},function(){ $("p").css("background-color","pink");}) 阅读全文
posted @ 2017-08-05 00:38 李·狗嗨 阅读(160) 评论(0) 推荐(0)
摘要:因为url中含有中文调试了一中午,饭都忘吃了,最后终于知道怎么处理URL带中文无法通过ascii 编码的情况了~ 阅读全文
posted @ 2017-08-04 18:19 李·狗嗨 阅读(437) 评论(0) 推荐(0)
摘要:Franky让我爬伯乐全站,结果我折腾半天只写出了爬全站图片的代码,有待完善啊! 呜呜呜T T 阅读全文
posted @ 2017-08-04 14:37 李·狗嗨 阅读(175) 评论(0) 推荐(0)
摘要:在万般折腾下,终于搞定了怎样去提取关键信息,个人觉得搞得好烂~ 我的能力有待提高啊 T T 阅读全文
posted @ 2017-08-04 12:12 李·狗嗨 阅读(274) 评论(0) 推荐(0)
摘要:遇到了好看的妹子图片怎么能放过呢~ biubiubiu~ 阅读全文
posted @ 2017-08-04 11:59 李·狗嗨 阅读(159) 评论(0) 推荐(0)
摘要:遇到好看的图片一直另存为是不是太low了~ 噗噗噗 阅读全文
posted @ 2017-08-04 11:56 李·狗嗨 阅读(174) 评论(0) 推荐(0)