04 2018 档案

摘要:一、Hadoop提供的Shell命令完成相同任务: 在本地Linux文件系统的“/home/hadoop/”目录下创建一个文件txt,里面可以随意输入一些单词.cd ./home/hadoopsudo mkdir a.txt 在本地查看文件位置(ls)ls 在本地显示文件内容touch a.txt 阅读全文
posted @ 2018-04-27 21:08 086刘伟锋 阅读(106) 评论(0) 推荐(0)
摘要:1.选一个自己感兴趣的主题或网站。(所有同学不能雷同) 2.用python 编写爬虫程序,从网络上爬取相关主题的数据。 3.对爬了的数据进行文本分析,生成词云。 4.对文本分析结果进行解释说明。 5.写一篇完整的博客,描述上述实现过程、遇到的问题及解决办法、数据分析思想及结论。 6.最后提交爬取的全 阅读全文
posted @ 2018-04-24 21:29 086刘伟锋 阅读(329) 评论(0) 推荐(0)
摘要:import requests import pandas import re from bs4 import BeautifulSoup from datetime import datetime def getNewsDetail(newsUrl): resd = requests.get(newsUrl) resd.encoding = 'utf-8' soup... 阅读全文
posted @ 2018-04-17 20:53 086刘伟锋 阅读(162) 评论(0) 推荐(0)
摘要:1. 用正则表达式判定邮箱是否输入正确。 2. 用正则表达式识别出全部电话号码。 3. 用正则表达式进行英文分词。re.split('',news) 4. 使用正则表达式取得新闻编号 5. 生成点击次数的Request URL 6. 获取点击次数 7. 将456步骤定义成一个函数 def getCl 阅读全文
posted @ 2018-04-11 22:17 086刘伟锋 阅读(156) 评论(0) 推荐(0)
摘要:import requests from datetime import datetime from bs4 import BeautifulSoup ksul='http://news.gzcc.cn/html/xiaoyuanxinwen/' res=requests.get(ksul) res.encoding='utf-8' soup=BeautifulSoup(res.text,'h... 阅读全文
posted @ 2018-04-02 20:11 086刘伟锋 阅读(173) 评论(0) 推荐(0)