用node.js对一个英语句子分析页面进行一个小爬虫

最近遇到一个需求,就是要从一个英语句子分析的页面中,根据你输入的英语从句,点击开始分析按钮,这个页面就会将分析的结果解析出来,如

然后我们就是需要从这个页面中把这些解析好的数据(包括句子语法结构详解,句子相关词汇解释等)取出来,这时候我就想到之前学过node.js,这时候就来弄下node.js的小小的爬虫。

首先,电脑要先安装node.js,至于怎么安装,请google,或者找相关教程来看。

然后就需要了解下node,现在我先加载http模块,然后设置url的值,url就是你要爬的那个网页的地址啦

然后通过http.get获得数据,现在我应该把代码粘贴上来啦。

然后我是保存为crawler_english.js文件的,然后就在命令行中运行了,敲node  crawler_english.js,无拼写什么意外的话,就把全部页面都打印出来啦。

铛铛铛铛,获取数据之后就要开始解析了。

据说解析dom结构用cheerio这个模块比较好,我就npm install cheerio了这个模块

然后 var cheerio = require('cheerio');将这个模块加载进来。

首先我要获取的是句子成分分析、句子语法结构详解、句子相关词汇解释、句子语法错误检查和句子相关学习点下的内容,这时候我就要找下他们的id,之后进行解析,解析过程就不说了。

 

 

posted @ 2016-03-27 19:05  janna~  阅读(414)  评论(0编辑  收藏  举报