• 博客园logo
  • 会员
  • 众包
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • HarmonyOS
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录

cynchanpin

  • 博客园
  • 联系
  • 订阅
  • 管理

View Post

自己动手写搜索引擎

   实现了一个搜索引擎,能够检索csdn站点的全部博客文章,当然。最新的文章是没有的。

   先说下项目思路吧。 整个项目分为6个子程序:

       爬虫1:爬取全部csdn站点的网页,并将爬到的博客文章url存入数据库。(python)

       爬虫2:从数据库中取文章url,并爬取文章内容到数据库。(python)

      分词程序:利用friso分词库,将全部文章内容切分成词语。(c/c++)

      建立倒排索引程序:处理全部分词程序产生的结果文件,建立倒排索引。(c/c++)

      搜索程序:将输入句子切分成关键词,并依据关键词和倒排索引文件计算出相关文章的TF-IDF(词频-逆文件频率),最后依据TF-IDF对搜索结果进行排序。(c/c++)

      搜索站点:类似百度等搜索引擎,应用的入口。输入搜索的内容。输出搜索的结果。(java)


    程序比較复杂,又用到了不同的语言。所以分成了这么多子程序。

    以下是终于的执行效果,看起来还不错

    主页(百度即视感)


 搜索结果:





    界面比較简单。只是确实能够搜索了,点击蓝色字就会打开博文原地址。



    整个项目做了非常多天,做的也非常非常辛苦,只是做出来后还是相当有成就感的。感兴趣的能够试试。



posted on 2017-06-26 21:21  cynchanpin  阅读(269)  评论(0)    收藏  举报

刷新页面返回顶部
 
博客园  ©  2004-2025
浙公网安备 33010602011771号 浙ICP备2021040463号-3