码迷,mamicode.com
首页 > 编程语言 > 详细

并行网络爬虫(C++实现)

时间:2018-11-29 18:07:41      阅读:206      评论:0      收藏:0      [点我收藏+]

标签:lin   event   设计模式   epoll   编程技术   soc   相同   http协议   网络   

step1 使用socket编程技术,利用http协议,抽取网页中的url,实现简单的爬虫。

step2 使用bloomfilter,对爬到的url进行去重,避免重复爬取相同页面。

step3 使用libevent的事件驱动设计模式,基于kueue的io多路复用,加快爬虫速度。

笔者使用Mac OS,采用kueue(os free based)实现io多路复用。LInux下可使用epoll 。

并行网络爬虫(C++实现)

标签:lin   event   设计模式   epoll   编程技术   soc   相同   http协议   网络   

原文地址:https://www.cnblogs.com/coding-gaga/p/10039493.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!